Az EU mostanra felismerte, hogy az MI technológia szédítő fejlődése szabályozást igényel, ha biztosítani akarjuk az emberek és a vállalkozások biztonságát.

A mesterséges intelligencia (MI) már nem a jövő zenéje, hanem a mindennapi életünk része. Talán észre sem vesszük, hogy mennyire beleszövődik mindennapjainkba: ott van a telefonunkban, a közösségi médiában, az egészségügyben, a közlekedésben és még sok más helyen. Éppen ezért fontos, hogy idén megszületett az MI európai szabályozása és nyár végén megalakult a direktívák kialakításáért és betartatásáért felelős MI Hivatal is.

Középpontban a versenyképesség és a bizalom

A szabályozás célja, hogy Európában biztosítsa  az MI biztonságos és megbízható működését. A bizalom nélkül az MI alkalmazása nem lesz hiteles, és ezért az EU célja, hogy  megalkossa a világ első MI jogi keretrendszerét, amely szabványokat állít fel az etikus technológia felé vezető úton. A cél az, hogy az MI szabályozás segítségével az EU technológiailag is versenyképes maradhasson.

Thierry Breton belső piacért felelős biztos szerint az MI egy eszköz, ami új lehetőségeket nyit a gazdaság számos területén – például az egészségügy, közlekedés, energia és mezőgazdaság területén –, de kockázatokat is rejt magában. A szabályozás a legtöbb MI alapú szolgáltatás esetében nem állít fel korlátokat, de kiemeli azokat a területeket, ahol a kockázatok a legmagasabbak, és ahol a felhasználók biztonsága és alapvető jogai veszélybe kerülhetnek.

Kockázati Szintek – mikor kellenek szigorúbb szabályok?

Az új szabályozás különböző kockázati szinteket határoz meg az MI rendszerek használatában.

Az olyan rendszereket, amelyek nyilvánvalóan veszélyeztetik az emberek biztonságát vagy jogait, teljesen betiltják. Ilyen például az, amikor egy játék úgy manipulálja a gyerekeket, hogy veszélyes viselkedésre buzdítja őket, vagy amikor egy ország vagy hatóság viselkedésük alapján kategorizálná az embereket.

A magas kockázati szintbe sorolt rendszerek olyan kritikus területeken működnek, ahol az emberek élete és megélhetése foroghat kockán. Ide tartozik például:

• a közlekedés, ahol az MI rendszereknek biztonságosaknak kell lenniük
• az oktatás, amely meghatározhatja valaki karrierútját
• az egészségügyi rendszerek, például robot-asszisztált műtétek
• a munkavállalók vagy jelöltek profilozására alkalmas HR alkalmazások
• a pénzügyi szektor automata döntéshozatalát támogató alkalmazások: pl. hitelminősítés
• a  migrációs ellenőrzés és igazságszolgáltatás, ahol biztosítani kell az alapvető jogok tiszteletben tartását.

Ezeknek a rendszereknek szigorú követelményeknek kell megfelelniük: például részletes dokumentációt kell biztosítaniuk, amely alapján a hatóságok ellenőrizhetik a megfelelőséget, valamint megfelelő emberi felügyeletet kell biztosítaniuk, hogy minimalizálják a kockázatokat.

Korlátozott kockázat: Az ilyen rendszerek – például chatbotok – használatakor elvárás, hogy a felhasználók tudják, hogy géppel lépnek kapcsolatba, így tudatosan dönthetnek a folytatásról vagy a kilépésről.

Minimális kockázat: Ilyen alkalmazások közé tartoznak például az MI-alapú spam szűrők, melyek szabadon használhatók, mivel ezek minimális kockázatot jelentenek az emberekre vagy jogaikra nézve.

Hogyan Tovább?

A szabályozási javaslatok Európai Parlament és a tagállami jóváhagyásuk után közvetlenül alkalmazandók lesznek az EU egész területén, a kódex véglegesítése 2025. tavaszára várható. Az EU emellett önkéntes magatartási kódexeket is javasol az alacsony kockázatú MI rendszerekhez, hogy megkönnyítse a szabályozás nélküli innovációt is.

A Bizottság új, a tagállamokkal közösen kidolgozott Intézkedési Tervet is bevezet, amely lehetővé teszi a szabályozások gyakorlatba ültetését, és az EU vezető szerepének erősítését a megbízható MI fejlesztésében és használatában.

Új kihívások az IT cégek előtt

A technológiai vállalatoknak – mint az Opennetworks – kulcsszerepük van abban, hogy az MI alkalmazása biztonságos és etikus maradjon Európában. A szabályozás világos kereteket ad, amelyek alapján a cégek biztosíthatják, hogy a termékeik és szolgáltatásaik megfelelnek az európai értékeknek és előírásoknak.

Egy átlátható és kiszámítható szabályozási környezet segíti az innovációt, és hosszú távon biztosítja az európai piaci versenyképességet is. Aki tehát komolyan gondolja az MI fejlesztését, annak érdemes figyelemmel követnie a szabályozások alakulását, hiszen ezzel növelheti az ügyfelei bizalmát és a piacon való fennmaradását.

Judit

(A cikket MI munkatársunk:  PT információkutatása és összefoglalása alapján készítettük, az információkon tény-ellenőrzést végeztünk. Köszönjük PT!)