Steve Wozniak: A ChatGPT-típusú technológia veszélyt jelenthet mindannyiunkra

AI - egy spammert hoz a rendszerbe

"Annyi spammel bombáznak minket, olyan dolgokkal, amelyek megpróbálják átvenni a számláinkat és a jelszavainkat, megpróbálnak becsapni minket" - mondta.

Wozniak aggodalmát fejezte ki, hogy olyan technológiákat, mint a ChatGPT, fel lehetne használni például nagyon meggyőző hamis e-mailek létrehozására. Bár ambivalens érzései vannak a technológia előnyei és a rossz szándékú emberek általi visszaélés veszélye között, félelmei szerint ezek a hatalmas eszközök valós fenyegetést jelenthetnek a rosszindulatú emberek kezében.

"Az AI olyan intelligens, hogy nyitott a rossz szándékú játékosokra, azokra, akik meg akarnak téveszteni azzal, hogy kik ők" - figyelmeztetett.

Veszély a vállalkozásokra

A biztonsági kutatók is ugyanúgy aggódnak. A vállalatoknál a döntéshozók 53%-a hiszi, hogy az AI segíthet a támadóknak meggyőzőbb e-mail csalásokat létrehozni. Legutóbb a BlackBerry figyelmeztetett, hogy a következő 12 hónapban várhatóan elő fog kerülni egy sikeres, a ChatGPT-nek tulajdonított támadás.

Wozniak aláírta azt a nyílt levelet, amelyet több mint 1000 tech cég írt alá, és amelyben arra figyelmeztetnek, hogy óvatosan kell eljárni az AI fejlesztésével. A levélben kérték az AI laboratóriumokat, hogy legalább 6 hónapra szüneteltessék a GPT-4-nél erősebb rendszerek fejlesztését.

Ugyanakkor Wozniak figyelmeztette az embereket, hogy ne reagáljanak reflexszerűen a sugallt félelemre: "Tényleg objektíveknek kell lennünk" - mondta a Fox News műsorában, a Your World with Neil Cavuto című műsorban. "Hol vannak a veszélyes pontok?"

A petíció figyelmeztetett néhány ilyen pontra, nem utolsósorban arra, hogy "a kortárs AI rendszerek most már emberi szinten versenyeznek az általános feladatokban, és meg kell kérdeznünk magunktól: 'Engedjük-e a gépeknek, hogy elárasztják információs csatornáinkat propagandával és hamissággal?'"

Láttunk már olyan eseteket is, amikor a generatív AI modellek használata üzleti titkok kiszivárgásához vezetett, ami biztonsági figyelmeztetéseket váltott ki az hírszerző ügynökségektől.

Létezése a fenyegetés?

Wozniak véleménye nem egyedülálló. Geoffrey Hinton, az úgynevezett "AI keresztapja", hasonló állásponton van, és nemrégiben abbahagyta a munkát a Google-nél, hogy figyelmeztesse az embereket az AI veszélyeire. Hinton szerint az AI nagy mértékben helyettesíti az emberi munkaerőt, és figyelmeztet, hogy ennek hatása veszélyeztetheti a stabilitást és potenciálisan kihaláshoz vezethet.

Mint a tech iparágban sokan mások, Wozniak is azt vallja, hogy az iparág és a kormányzatnak azonosítania kell a veszélyes pontokat, és most kell cselekedniük a kockázatok minimalizálása érdekében.

Arra utalva, amit most már tudunk a közösségi média kockázatairól, azt mondta: "Mi lenne, ha leültünk volna, és átgondoltuk volna ezt, mielőtt a közösségi média létrejött volna", és létrehoztunk volna keretrendszereket a kockázatok kezelésére és minimalizálására.

A kormányok lassan mozdulnak

Sok kormány próbálja kideríteni, hogy szükség van-e az AI eszközök szabályozására, és hogyan, de ez a folyamat valószínűleg nem tud lépést tartani az AI fejlődésével. A Biden-adminisztráció nemrégiben bejelentett egy önkéntes AI szabályrendszer-tervezetet, amelynek célja a biztonság és a magánélet védelme, valamint a mesterséges intelligencia technológiák, beleértve a ChatGPT-t is, valós és létezési fenyegetésének kérdésének megvitatása.

"Az AI az időnk egyik legnagyobb hatású technológiája, de annak lehetőségeinek kiaknázása érdekében először enyhítenünk kell a kockázatait" - mondta a Fehér Ház egy közleményben. "Biden elnök világosan jelezte, hogy az AI-t illetően az emberek és a közösségek érdekeit kell középpontba állítanunk, támogatva a felelős innovációt, amely a közjavakat szolgálja, miközben védi társadalmunkat, biztonságunkat és gazdaságunkat."

Az Egyesült Királyságban a Verseny- és Piaci Hatóság (CMA) felülvizsgálja az AI piacát. "Célunk, hogy segítsünk ebben az új, gyorsan növekvő technológiában úgy fejlődni, hogy biztosítsuk a nyitott, versenyképes piacokat és az effektív fogyasztóvédelmet" - mondta Sarah Cardell, a CMA vezérigazgatója.

Az Egyesült Királyság kormánya azonban úgy tűnik, hogy támogatja a technológia szabad használatát.

Reakció az akcióra

Ezek az erőfeszítések ellenreakciót váltanak ki néhány tech szakemberben, akik szerint az AI fejlődésének lassítása egyes országokban lehetőséget adhat másoknak arra, hogy előnyre tegyenek szert a technológia alkalmazásában. Bill Gates, a Microsoft társalapítója azok között van, akik ezt az érvet hozzák fel.

Hinton nemrégiben azt mondta, hogy "egyetlen reménye" az AI-vel kapcsolatban az, hogy a versengő kormányok meg tudnak egyezni annak használatának korlátozásában, tekintettel arra, hogy mindannyian létezési fenyegetéssel szembesülnek. "Mindannyian ugyanabban a hajóban vagyunk a létezési fenyegetéssel kapcsolatban, tehát mindannyiunknak képesnek kell lennie arra, hogy együttműködjünk annak megállításában" - mondta.

Figyelmeztettek

Egy tragédia, hogy az AI-ban rejlő létezési kockázatokra már évekkel ezelőtt felhívták a figyelmet. Már 1863-ban, Samuel Butler író figyelmeztetett: "Az eredmény csupán idő kérdése, de az, hogy eljön az idő, amikor a gépek valódi uralmat szereznek a világ felett és annak lakói felett, az egy igazán filozófiai elme számára egy pillanatra sem kérdéses.”

Az Apple társalapítója nem túl optimista abban, hogy hatékony korlátozásokat fognak bevezetni az ilyen használat körül. "A pénzért dolgozó erők általában győzedelmeskednek a rólunk való gondoskodás, a szeretet erőivel szemben. Ez elég szomorú" - mondta a BBC-nek.

Az AI és a generatív modellek, mint a ChatGPT, kétségtelenül hatalmas potenciállal rendelkeznek, mind a pozitív, mind a negatív hatások tekintetében. Mint minden technológia esetében, fontos a kockázatok ismerete és kezelése. Az AI fejlődésének jövőjében döntő szerepet játszhat a szabályozás, az etikai irányelvek, a felelős használat és a folyamatos párbeszéd.