Nová investigace Ronana Farrowa a Maxe Chafkina pro The New Yorker naznačuje, že základy tohoto giganta stojí na mnohem křehčí integritě, než si veřejnost připouštěla.
„Ilyova memoranda“: Vzorec lhaní
Nejvíce šokujícím odhalením je existence interní dokumentace, kterou sestavil bývalý hlavní vědecký pracovník Ilya Sutskever. Ten na podzim 2023 shromáždil zhruba 70 stran materiálů, včetně zpráv ze Slacku a HR dokumentů. Podle Farrowa „jedno memorandum začíná seznamem ‚Sam vykazuje konzistentní vzorec...‘ První položkou je ‚Lhaní‘.“
Toto podezření nesdílel jen Sutskever. Dario Amodei, spoluzakladatel konkurenčního Anthropicu, si o Altmanovi vedl soukromé poznámky po celá léta. V jednom z více než 200 stran dokumentů Amodei natvrdo píše, že „Altmanova slova jsou ‚téměř jistě kecy‘ (bullshit).“
Bezpečnost vs. Ambice
Investigativa vykresluje Altmana jako lídra, který se systematicky vyhýbal bezpečnostním protokolům, pokud mu stály v cestě. Farrow popisuje incident z roku 2022, kdy Altman ujistil radu o schválení funkcí bezpečnostním panelem, aby se následně ukázalo, že „ty nejkontroverznější funkce ve skutečnosti schváleny nebyly“.
Podobná situace nastala u GPT-4 Turbo, kde Altman údajně tvrdil, že model nepotřebuje bezpečnostní schválení. Když se na to dotázali hlavního právního zástupce Jasona Kwona, ten byl podle Farrowa „zmaten tím, kde Altman na tento nápad přišel“.
Hazard s globální mocí
Možná nejděsivější pasáží vyšetřování je ochota vedení OpenAI riskovat v mezinárodním měřítku. Článek popisuje úvahy o tom, jak firmu obohatit tím, že by „proti sobě poštvali světové mocnosti, včetně Číny a Ruska, a možná tak vyvolali aukční válku o pokročilé technologie A.I.“ Od tohoto plánu se upustilo až pod tlakem hrozeb hromadných výpovědí zaměstnanců.
Odklon od neziskové mise
Mnoho lidí do OpenAI vstoupilo s vírou v neziskovou misi, která upřednostňuje lidstvo před ziskem. Farrow však odhaluje, že zakladatelé o tomto modelu pochybovali už v roce 2017. „Nemůžeme říkat, že jsme oddaní neziskovce... pokud o tři měsíce později budeme dělat b-corp, pak to byla lež,“ napsal si tehdy Greg Brockman do deníku.
Dnes je OpenAI ziskovou entitou, která podle některých členů rady „finančně napákovala způsobem, který je v tuto chvíli riskantní a děsivý.“ Farrow varuje, že pokud tato bublina praskne, je v sázce celá americká ekonomika.
Temná strana rivality
Kromě interních problémů čelí Altman i útokům zvenčí. Farrow potvrzuje, že prostředníci napojení na Elona Muska šířili skandální materiály o Altmanově soukromí, získané skrze sledování v gay barech a prověřování osobních kontaktů. Tato „skandální a nepodložená opoziční výzkumná činnost“ ukazuje, jak špinavý je boj o dominanci v oblasti AI.
