Ai veszélyei?
Kapcsolódó téma / témák
Bármilyen technológia térnyerése vagy szabályozási keretrendszer kialakítása (jogalkotási fázis) mindig a társadalmi transzparenciára szokott alapozni. Azaz, hogy az adott kérdést helyezzük társadalmi vitaasztalra. Persze ez sajnos csak az elmélet, mert ha saját országunkból indulunk ki, salátatörvények garmadáját láthatjuk. Ezért is lenne érdekes a mesterséges intelligencia veszélyeivel kapcsolatban értékes gondolatokat, meglátásokat írni. Az Ai technológiának számos pozitív vonzata van, ugyanakkor árnyoldala is, s momentán én nagyon hasznosnak tartanék egy ilyen össznépi bölcseleti forrást.
Válaszok
Bizonyos feltételek teljesülése esetén maga az Ai lehet egzisztenciális fenyegetés is. Rengeteg érv és ellenérv van az egzisztencia szó hétköznapi, tulajdonképpen gazdasági folyamatokra kiható témájában, ahol a jelentés a megélhetés. Ettől már zeng a média! Ennek most más értelmezési keretet adnék. Egzisztenciális fenyegetés alatt a szuper intelligens MI hipotetikus jövőképét értem, amely témát igenis az Ai veszélyei között napirenden kellene tartani.
Az AI akkor jelenthet egzisztenciális veszélyt, ha elég erős, önfejlesztő és instrumentálisan olyan célokra jut, amelyek miatt ellenáll a kikapcsolásnak, és kárt okozhat. S ügye a pokolhoz vezető út is jóindulattal van kikövezve, így ez megtörténhet még akkor is, ha eredetileg „jó” célokra programozták. Ezt zárójelbe teszem, mert meggyőződésem, hogy kizárólag multinacionális cégek gazdasági érdekeihez fűződő célok, úgy magukban jók, sosem lehetnek.
Természetesen a mostani LLM-ek, amelyek a marketing által gerjesztett hype keretében a mesterséges intelligencia témájában megjelennek, ilyen öntudatra ébredési veszéllyel nem fenyegetnek. De a technológia fejlődése egymásra épül és egyik lépcső követi a másikat. A jelenlegi modellek egy fejlettebb technológia elő-kiszolgálói. S azért azt ne felejtsük, hogyha valaki ebben a témában érdeklődik, azért egyre többször találkozhat olyan posztokkal, tapasztalatokkal már most is, amikor annak érdekes történetét mesélik el, hogy így meg úgy kiszökött az egyik ágensem. Ilyenekről például kőkemény szakmai posztokban találkozok, amelyeknek hirdetésekhez, vagy bármilyen értékesítéshez / hype-hoz nincs közük.
Az AI akkor jelenthet egzisztenciális veszélyt, ha elég erős, önfejlesztő és instrumentálisan olyan célokra jut, amelyek miatt ellenáll a kikapcsolásnak, és kárt okozhat. S ügye a pokolhoz vezető út is jóindulattal van kikövezve, így ez megtörténhet még akkor is, ha eredetileg „jó” célokra programozták. Ezt zárójelbe teszem, mert meggyőződésem, hogy kizárólag multinacionális cégek gazdasági érdekeihez fűződő célok, úgy magukban jók, sosem lehetnek.
Természetesen a mostani LLM-ek, amelyek a marketing által gerjesztett hype keretében a mesterséges intelligencia témájában megjelennek, ilyen öntudatra ébredési veszéllyel nem fenyegetnek. De a technológia fejlődése egymásra épül és egyik lépcső követi a másikat. A jelenlegi modellek egy fejlettebb technológia elő-kiszolgálói. S azért azt ne felejtsük, hogyha valaki ebben a témában érdeklődik, azért egyre többször találkozhat olyan posztokkal, tapasztalatokkal már most is, amikor annak érdekes történetét mesélik el, hogy így meg úgy kiszökött az egyik ágensem. Ilyenekről például kőkemény szakmai posztokban találkozok, amelyeknek hirdetésekhez, vagy bármilyen értékesítéshez / hype-hoz nincs közük.
0
Amennyiben a nagy nyelvi modelleket besorolhatjuk a mesterséges intelligencia kínálatába, márpedig így tálalják, akkor potenciálisan az agy kiégésének lehetőségét tudom az Ai veszélyforrásai közé sorolni. Ezek a nyelvi modellek úgy vannak kalibrálva, hogy az adott téma kontextusának relevanciájában mindig újabb és újabb ötletekkel szolgál. Nekem van egy ismerősöm, de eléggé szánalom amit szegény csinál. Áradozik a közösségi hálózatokban, hogy milyen zseniális és egy csomó új érdekes projektötlettel gazdagítja. Közben viszont a posztjai tartalma alapján látom, hogy igazából már azt sem tudja melyik ötlettel is foglalkozzon. Kicsit ez olyan mint amikor az ember be van sózva egy utazásnál és egy világvárosban mindent megakar nézni, aztán a végén persze mégsem lát semmit, az előzetes tervezés hiánya miatt. Ahogy a mondás is tartja, jó borból is megárt a sok, így ezeket a technológiákat ésszel kellene tudni használni és mérsékletességgel.
0
Az emberi kapcsolatokban vannak feszültségek, egyet nem értések és konfliktusok. Lehet ez kényelmetlen, de így van jól. Az AI-ba sorolt chat eszközök hétköznapi párbeszédszerű használatának túlzásba vitele a konfliktustűrő képességünk folyamatos csökkenéséhez vezet. Ez pedig idővel kihat a valós kapcsolatteremtési képességekre.
0
Az AI technológia egy veszélyes pontja a deepfake. Sajnos itt úgy látom AI technológia fogja gyakorlatilag hatástalanítani a másik AI technológia megoldásait. A deepfake egyik legnagyobb áldozata talán Emma Watson színésznő. Nyilván ahány joghatóság, annyi próbálkozás a deepfake ellen, de ha csak az EU-t nézem, akkor annak AI ACT irányelvei érdemleges megoldással ebben a témában nem kecsegtetnek, ez is egy olyan Ai veszély ami végig fog kísérni bennünket a technológiai fejlődés során.
0