Generální tajemník Organizace spojených národů António Guterres na nedávné konferenci v Ženevě vyjádřil vážné obavy z rychlého a neřízeného rozvoje umělé inteligence (AI). V rámci globálního dialogu, který se zúčastnili diplomaté, vládní činitelé a zástupci soukromého sektoru, Guterres upozornil, že současné trendy v oblasti AI představují experiment, který se provádí na společnosti bez jasného plánu a souhlasu. Tento nedostatek regulace a kontroly by mohl mít dalekosáhlé důsledky pro budoucnost lidstva, varoval. „Světové instituce nejsou připraveny na stroje, které se dokážou samy řídit a nečekají na povely lidí,“ dodal.
Generální tajemník OSN zdůraznil, že pokud má být umělá inteligence mocným nástrojem, musí podléhat správě a regulaci. „Má-li být AI věrohodná, pak ti, kteří ji tvoří, musí nést odpovědnost za své činy,“ prohlásil Guterres a vyzval vlády, aby okamžitě začaly pracovat na regulačních rámcích pro tuto novou technologii. Představil také myšlenku, že firmy vyvíjející AI by měly přijmout odpovědnost, která odpovídá jejich moci, a to především s ohledem na možné negativní dopady, které by nekontrolovaný rozvoj AI mohl přinést. Podle Guterrese by mohli být lidé poslední generací, která je schopna stanovit podmínky pro soužití mezi lidmi a stroji.
Rizika a potenciál umělé inteligence
Guterres také upozornil na rychlost, s jakou umělá inteligence expanduje, a na moc, kterou soustředí. Vnímal obavy z pokřivení vztahu mezi pravdou a lží, které AI může vytvářet. „Pokud nebude správně a kontrolovaně využívána, AI se může stát nebezpečnou,“ varoval. Nicméně, pokud se umělá inteligence vyvine správným směrem, může přinést řadu pozitivních změn, jako je zrychlení přístupu k vědomostem, které byly dosud dostupné jen úzkému okruhu lidí. „Dobře využitá AI může zkrátit dobu potřebnou pro rozvoj z dekád na jednotky let,“ uvedl Guterres a podtrhl tím význam správného směřování vývoje této technologie.
Podle Guterrese by měla volba stát mezi řízením umělé inteligence s cílem a nechat se unášet proudem bez kontroly. Toto rozhodnutí je klíčové pro budoucnost vztahu mezi lidmi a technologiemi. „Bez jasných pravidel a odpovědnosti se můžeme dostat do situace, kdy se technologie vymkne kontrole,“ varoval dále. Generální tajemník OSN vyzval k vytvoření priorit v oblasti bezpečného používání AI, stanovení nepřekročitelných mezí a transparentnosti v její aplikaci. Je přesvědčen, že pouze tak lze zajistit, aby umělá inteligence sloužila lidstvu a ne naopak.
Globální dialog o AI a jeho význam
Dvoudenní globální dialog o umělé inteligenci, který probíhá v Ženevě, je důležitou platformou pro diskuzi o etice a odpovědnosti spojené s novými technologiemi. Tento dialog je zaměřen na sdílení názorů a návrhů, jakým způsobem by měly být regulovány a řízeny technologie umělé inteligence, aby bylo možné maximálně využít jejich potenciál a minimalizovat rizika. Je to příležitost pro zástupce různých sektoru, aby se sjednotili na společném cíli – vytvořit bezpečné a zodpovědné prostředí pro rozvoj AI. V kontextu stále rostoucího významu umělé inteligence v různých odvětvích lidské činnosti je takový dialog zásadní. Tímto způsobem se mohou vyjasnit postoje jednotlivých států a institucí a stanovit společné principy pro budoucí rozvoj AI.