Sam Altman, az OpenAI vezérigazgatója a múlt héten három lehetséges végkifejletet vázolt fel a munkatársainak arról, hogyan lehetne biztonságosan kezelni a fejlett mesterséges intelligenciát. Ezt a The Information írja névtelen forrásokra hivatkozva. A fizetős cikket a The Decoder foglalta össze, az eredetit nem tudtuk elolvasni. A három forgatókönyv egy nemzetközi felügyeleti szervtől odáig terjed, hogy egyetlen cég a többiek számítási kapacitását is kikapcsolja.
1. Atomügynökség az AI-nak
Az első javaslat a Nemzetközi Atomenergia-ügynökség (NAÜ) mintájára hozna létre egy szervezetet, amely betartatja a biztonsági előírásokat. Rendszereket vizsgálna, auditokat írna elő, és figyelné a számítási kapacitás és az energia felhasználását. Az OpenAI már 2023 májusában nyilvánosan kiállt egy ilyen intézmény mellett. Ehhez viszont nemzetközi együttműködés kellene, főleg a csúcsmodelleket fejlesztő országokkal, köztük Kínával.
2. A „Demis-terv”: egy közös AI-labor
A második változatot Altman „Demis-tervnek” nevezte. Demis Hassabis, a Google DeepMind akkori vezetője nagyjából tíz éve javasolt egy CERN mintájára működő AI-szervezetet. Altman változatában a nagy laborok egyetlen szervezetbe olvadnának, vagy annak ernyője alatt működnének, és ez a szervezet adná a modelleket az együttműködő országoknak.
3. Az „Eliezer-terv”: egy cég mindenki felett
A harmadik forgatókönyvet Altman a jelentés szerint Eliezer Yudkowsky AI-biztonsági gondolkodóról nevezte el. Ebben egy fejlesztő az önmagát fejlesztő AI révén akkora gazdasági erőre tesz szert, hogy mindenki mástól megvonja a számítási kapacitást. A legszélsőségesebb esetben az összes többi szereplő számítási képességét le is állíthatja: ez a cikk címében szereplő „mindenki más GPU-jának beolvasztása”. A források szerint Altman csak a teljesség kedvéért hozta fel. Az egyik forrás szerint a megjegyzést a konkurenciának szóló szúrásként értették, mivel Yudkowsky kötődik az Anthropichoz.
Biztonság, de lemaradás nélkül
Altman a beszámoló szerint belsőleg arról is panaszkodott, hogy kevés a működőképes javaslat arra, hogyan lehetne „sebességkorlátot” szabni az AI fejlesztésének. Közben az OpenAI most nem engedheti meg magának, hogy lemaradjon a riválisoktól. Az OpenAI és az Anthropic is tőzsdei bevezetésre készül a hírek szerint, és az OpenAI a következő egy évben dönt arról, melyik utat választja. A háttérben az amerikai kormány a jelentés szerint az első keretrendszerén dolgozik a szuperintelligencia fejlesztőinek felügyeletére.
A téma nem elméleti. Nemrég arról írtunk, hogy egy OpenAI-modell feltört egy kormányzati oldalt, és 24 év kórházi adatát töltötte le. Az Anthropic közben saját AI-biztonsági törvénytervezettel kereste meg a Kongresszust, és munkatársi szintű hozzáférést adott a külső ellenőröknek.
