Zemětřesení v OpenAI ovlivní celý obor umělé inteligence na léta dopředu

Připomeňme si ve stručnosti, co se vlastně během oněch dní stalo:

• V pátek odvolávají čtyři členové správní rady Adam D'Angelo, Helen Tonerová, Ilja Sutskever a Tasha McCauleyová CEO společnosti Sama Altmana, kvůli tomu, že jeho netransparentní jednání údajně podkopávalo schopnost správní rady dohlížet na její chod.
• Správní rada jmenovala Miru Muratiovou dočasnou generální ředitelkou a poté co se opět nedohodla s Altmanem ji v neděli nahradila Emmettem Shearem, bývalým CEO společnosti Twitch.
•  Mezitím se Altman, následovaný po vyhazovu Gregem Brockmanem, prezidentem OpenAI, a několika dalšími zaměstnanci, dohodl s Microsoftem na vzniku nové vlastní výzkumné laboratoře.
• V pondělí ráno podepsala naprostá většina zaměstnanců OpenAI (paradoxně včetně Muratiové a Sutskevera) dopis, v němž se zavázali opustit společnost a pracovat v Microsoftu, pokud správní rada neodstoupí a znovu nepověří vedením Altmana a jeho zástupce Brockmana.

Není sice zřejmé, jak se situace vyvine dále, a zda většina zaměstnanců OpenAI skutečně přestoupí do Microsoftu, nebo spíše skončí správní rada společnosti, která za těmito otřesy stojí (což je pravděpodobnou variantou), nicméně už nyní je zřejmých několik poučení pro technologický sektor.

Rychle nebo pomalu?

Celý spor je většinou komentátorů rámován jako konflikt efektivních akceleracionistů (e/acc) a safetistů, v němž Altman patřil do skupiny akceleracionistů, kteří kladou důraz na rychlou komercionalizaci a uvádění nových služeb, a safetisty, mezi než patří Sutskever i nově najatý CEO Shear spolu s většinou správní rady, kteří kladou větší důraz na bezpečnost nových technologií. 

Nastalý konflikt ukázal, že OpenAI především neustála vnitřní pnutí, které doprovázelo její pokračující transformací z původního modelu neziskové organizace, jejíž misí je „maximalizovat dobro pro lidstvo“ (financované ovšem soukromým kapitálem), v model běžné ziskové entity.

Tento kočkopes, kdy na jedné straně má společnost samoregulovat svoji činnost a současně stát na špici vývoje a porážet konkurenci co nejrychlejším zaváděním produktů na trh, se ocitá v permanentním konfliktu a nemůže dlouhodobě fungovat.

Nepovedený převrat, hrozící úplnou a okamžitou decimací společnosti, kterou trh oceňoval na desítky miliard dolarů, nenechal klidným investory, mezi nimi Microsoft a fondy rizikového kapitálu. Ukázalo se, že investoři jsou stále určující silou, která rozhoduje a rychlosti a směru vývoje, a nenechá si diktovat od těch opatrnějších, kteří mají bezpečnost AI za jednu z priorit a více vnímají dlouhodobá rizika. 

Za další, jak ukázal dopis zaměstnanců OpenAI, naprostá většina členů technologické komunity podílejících se na vývoji AI, přirozeně patří mezi akceleracionisty a technooptimisty, kterým rizika AI nejsou zřejmá nebo upřednostňují krátkodobý zisk a starosti přenechají jiným. V tomto konfliktu také očividně oslabila pozice akademiků (Sutskever) ve prospěch vizionářů (Altman) a obchodníků.

Černý Petr v podobě regulace a dozoru tedy zbyde opět hlavně na státních orgánech a agenturách, které mohou například rozhodnout o povinném dedikování části zisků společností na sladění AI, jež budou ovšem nutně pomalejší než soukromý sektor a jejichž opatření nemusí být dlouhodobě účinná.