Elon Musk žaluje Sama Altmana a společnost OpenAI. Viní je z toho, že zapomněli na zásadní část deklarovaného poslání společnosti OpenAI, kterým je vývoj užitečné a neškodné obecné umělé inteligence. Altman toto odhodlání mezitím stvrdil podpisem otevřeného dopisu, v němž se zavazuje k vývoji umělé inteligence „pro zlepšení života lidí“.
Využíváte už ve firmě autonomní agenty postavené na bázi umělé inteligence?
Kritiky však Altmanův projev odpovědnosti nepřesvědčil. V kontextu rychlé popularizace generativní umělé inteligence (genAI) v uplynulém roce varují, že důsledky neomezeného a neregulovaného vývoje by mohly být naopak nejen škodlivé pro lidskou společnost, ale zcela ji ohrozit.
Ritu Jyotiová, viceprezidentka skupiny pro výzkum AI a automatizaci ve společnosti IDC, uvedla, že Altmanův krok, kterým se veřejně přihlásil k odpovědnému vývoji, mnoho neříká.
„Ačkoli v odvětví panuje shoda, že existuje kolektivní odpovědnost za odpovědný vývoj a nasazení umělé inteligence, tento dopis neobsahuje konkrétní potřebná opatření. Takže podle mého názoru nemá velkou přidanou hodnotu,“ komentovala Jyotiová.
Chcete dostávat do mailu týdenní přehled článků z Computerworldu? Objednejte si náš mailový servis a žádná důležitá informace vám neuteče. Objednat si lze také newsletter To hlavní, páteční souhrn nejdůležitějších článků ze všech našich serverů. Newslettery si můžete objednat na této stránce.
Altman je jedním z těch, kteří už v minulosti podepsali prohlášení uznávající rizika AI, kritici však tvrdí, že samoregulační povaha snah o řešení těchto rizik je nedostatečná.
Klíčové je, že se odvětví nedaří vyřešit problém sladění AI, tedy zajištění, aby umělá inteligence jednala v souladu lidskými hodnotami a cíli. Panují obavy, že nejpokročilejší instance AI mohou potenciálně iterovat samy sebe – což představuje vážné riziko, že se budou vyvíjet způsobem, který si lidé nepřejí.
„Otázkou je, zda jsme schopni systém ovládat, pokud je chytřejší než my?“ ptá se Joep Meindertsma, nizozemský vývojář a zakladatel skupiny PauseAI, která se zabývá zmírňováním rizik, jež AI představuje.
Video ke kávě
Máte čas na rychlé a informativní video?
Meindertsma uvedl příklad systému, jako je AutoGPT, který v podstatě dokáže sám sobě klást otázky a vytvářet vlastní dotazy, aby splnil složité výzkumné úkoly, jako druh technologie, která by se mohla ukázat jako potenciálně velmi nebezpečná.
„V určitém okamžiku se někdo takového počítače zeptá na něco, co by zahrnovalo myšlenku, že je užitečné rozšířit se na další stroje. Vždyť lidé už AutoGPT vysloveně žádali, aby se pokusil ovládnout svět,“ vyjádřil se Meindertsma.
Pokud jde o žalobu na Altmana a OpenAI, Meindertsma řekl, že Musk může mít pravdu. Celý smysl založení OpenAI podle něj spočíval v tom, aby se vývoj umělé inteligence ubíral zodpovědným směrem. Současný progres však rychle překonává všechny ochranné mantinely, které průmyslové organizace pod vedením Altmana a OpenAI vytvořily.
Odvětví tedy nelze věřit, že se bude regulovat samo, a vláda musí zasáhnout, aby zabránila potenciální katastrofě, tvrdí kritici. Meindertsma uvedl, že již prokázané schopnosti – například schopnost GPT4 autonomně hacknout webové stránky – jsou kriticky nebezpečné a nedostatek regulace v kombinaci s rychlým vývojem genAI představuje existenční hrozbu.
„Měli bychom ji regulovat stejným způsobem, jakým regulujeme jaderný materiál,“ je přesvědčený Meindertsma.
Computerworld si můžete objednat i jako klasický časopis. Je jediným odborným měsíčníkem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.
Obsah Computerworldu je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.
PŘEDPLATNÉ
ČLÁNKY DO MAILU