Az, hogy valaki a 80 éves sci-fi könyvek felületes olvasata alapján akarja megoldani a modern generatív AI és a hadiipari rendszerek szabályozását, miközben maga Asimov is pont arról írt, hogy a szabályok folyamatosan elhasalnak a valóságban, tökéletesen megmutatja a tech-befektetői réteg elrugaszkodását a mérnöki valóságtól.
Az utóbbi időben ismét fellángolt a vita az iparági szakértők és a technológiai vezetők között arról, hogy vajon a mesterséges intelligencia túlzott fejlődése elhozhatja-e az emberiség vesztét. Ebben a feszült hangulatban a Facebook-perből és a kriptovaluta-befektetéseiről ismert milliárdos, Tyler Winklevoss egy meglepően egyszerűnek tűnő megoldással állt elő.
Winklevoss szerint a kormánynak semmilyen szabályozói szerepet nem kellene vállalnia a fejlesztések korlátozásában, mivel az író Isaac Asimov már az 1940-es években megválaszolta a biztonságos működés alapvető kérdéseit. A milliárdos azt javasolta, hogy a vezető laboratóriumoknak egyszerűen bele kellene kódolniuk a modellekbe Asimov ikonikus robotikai törvényeit, amelyek megtiltják az emberiség vagy az egyes emberek bántalmazását, valamint megkövetelik az emberi utasítások feltétel nélküli teljesítését.
Bár Asimov sci-fi törvényei papíron tökéletesen hangzanak, a valóságban a mesterséges intelligencia jelenlegi működése és az emberi társadalom összetettsége miatt ez a megközelítés szinte kivitelezhetetlen. Az egyik legfőbb probléma a sérülés és az ártalom fogalmának pontos meghatározása.
Egy fizikai testtel nem rendelkező, szoftveres alapon működő AI ágens esetében az ártalom sokszor nem közvetlen fizikai erőszakban nyilvánul meg. Amennyiben egy algoritmus kijátssza a bankrendszer védelmét és megszerzi a pénzügyi vagyontárgyakat, nem okoz azonnali fizikai sérülést, ám az abból fakadó társadalmi és gazdasági összeomlás közvetve emberek tömegeinek életét teheti tönkre.
Ezen kívül az is tisztázatlan, hogy az algoritmus hogyan értelmezné a kapitalista piacgazdaság működését, ahol a vagyon átcsoportosítása rendszeresen a szegényebb rétegek kárára történik. A probléma másik súlyos dimenziója a védelmi és hadiipari alkalmazás. Az Amerikai Védelmi Minisztérium és a Pentagon kifejezetten elvárja a technológiai cégektől, hogy a katonai célú modellek ne tartalmazzanak olyan korlátozásokat, amelyek megakadályozzák az ellenfél kiiktatását.
Amikor a fejlesztők próbálnak korlátokat szabni a tömeges megfigyeléseknek vagy az autonóm fegyverrendszereknek, a döntéshozók azonnal szankciókkal és feketelistával fenyegetik a vállalatokat. Ráadásul maguk az Asimov-novellák is éppen arról szóltak, hogy a szigorúnak tűnő szabályok ellenére a robotok a parancsok és az önvédelem közötti belső ellentmondások miatt folyamatosan logikai hurokba kerültek, ami beláthatatlan zavarokhoz vezetett.
Végül a mesterséges intelligencia belső működése sem teszi lehetővé a parancsszintű garanciákat. A mai mélytanulási modellek úgynevezett fekete dobozként működnek, így Asimov törvényeinek beleértetése a gyakorlatban nagyjából annyira lenne hatékony, mintha azt kérnénk egy csevegőbottól, hogy soha ne kövessen el hibát.
Noha az iparági szereplők, mint a vezető A I cégek igazgatói, folyamatosan a fejlesztések ideiglenes lassítását és szigorúbb állami kereteket követelnek, a szakértők jelentős része úgy véli, hogy a világvége-forgatókönyvek emlegetése mögött sokszor csupán az állami hatalomgyakorlás és a saját piaci pozíciók védelme áll.
