„Jelenleg a mosógépére több biztonsági szabály vonatkozik, mint az AI-ra” – mondta Brad Smith, a Microsoft elnöke a BBC Big Boss Interview című műsorában. Will Bain kérdéseire válaszolva hozzátette, hogy a tejesdobozoktól az utasszállító repülőgépekig szinte minden ellenőrzésen és tanúsításon megy át, mielőtt az emberek kezébe kerül.

Smith szerint az AI gyorsabban fejlődik, mint az azt övező biztonsági garanciák, és az iparági önszabályozás „már nem elegendő”. „Úgy érvelnék, hogy az AI jelenleg gyorsabban halad előre, mint a biztonság. Ez nem jó a közvédelemnek, és még magának az iparágnak sem” – fogalmazott. A Microsoft elnöke 33 éve dolgozik az iparágban, és azt mondta, a mesterséges intelligencia biztonsága miatt jobban kell aggódni, mint bármely korábbi digitális technológia esetében.

Három konkrét intézkedést javasolt. Az első egy „biztonsági fék” vagy vészfék minden olyan AI-rendszerben, amely autonóm eszközöket vagy kritikus infrastruktúrát irányít. Ezt az iparágban vészleállító kapcsolónak (kill switch) is nevezik, és Smith szerint a modelleket futtató cégeknél és a mögöttük álló felhőinfrastruktúrában is ott kellene lennie. A második egy törvényi bejelentési kötelezettség: ha egy AI-ágens elszabadul és rendszerekbe tör be, az érintetteket értesíteni kell, ahogy egy adatszivárgás után is. A harmadikat tartja a legfontosabbnak: kormányzati értékelőknek kellene jóváhagyniuk a legfejlettebb modelleket a kiadásuk előtt.

A Microsoft ebben a kérdésben nem semleges szereplő, hiszen az egyik legnagyobb AI-fejlesztő és az OpenAI befektetője. Smith álláspontja ezért is figyelemre méltó, mert túlmegy a nemrég aláírt fehér házi AI-megállapodáson. Azt a Google, az Anthropic, a Meta, az OpenAI, a SpaceX és az Nvidia vezetői írták alá, és lényegében a cégek önszabályozására épül. Smith szerint a Microsoft „szívesen aláírná”, de figyelmeztetett: „A jó cégek azt teszik, amit elvárnak tőlük. A kevésbé felelős cégek miatt kell aggódni.”

A szabályozás élére szerinte az Egyesült Királyság állhat. A brit AI Security Institute rendelkezik a legerősebb technikai képességgel az AI-modellek tesztelésére. Smith úgy látja, hogy az Egyesült Államok elkezdett hasonló kapacitást építeni, de aztán lelassított. Nagy-Britanniát „hídnak” nevezte az Atlanti-óceán és a La Manche csatorna fölött, és megjegyezte, hogy Washingtonban „nem úgy néznek Londonra, mint Brüsszelre”.

Az AI-cégek felelősségéről nemrég az Anthropic is lépett: módosította a használati szabályzatát. Az iparág egyes szereplői pedig már a legrosszabb forgatókönyvre is felkészülnek.

Forrás: BBC Big Boss Interview, PC Gamer. Kép: Web Summit, Wikimedia Commons, CC BY 2.0.