AI Act közérthetően

Az AI Act nem a mesterséges intelligenciát tiltja vagy engedi általában, hanem kockázati szintek szerint szabályozza, hogy mely MI-használatok tilosak, melyek magas kockázatúak, és hol kell külön tájékoztatni az embereket.

Amikor MI-rendszert fejleszt, forgalmaz, importál, bevezet vagy használ, különösen, ha az uniós piacon működik, embereket érintő döntéseket támogat, vagy MI-generált tartalmat tesz közzé.

Igen, de nem feltétlenül magas kockázatú. Belső használatnál tipikusan adatvédelmi, titokvédelmi, szerzői jogi, információbiztonsági és MI-jártassági szabályokra van szükség.

Szolgáltató az, aki MI-rendszert fejleszt vagy saját neve alatt forgalomba hoz. Alkalmazó az, aki saját tevékenysége során MI-rendszert használ. Egy szervezet különböző helyzetekben mindkét szerepben lehet.

Olyan rendszer, amely érzékeny területeken - például foglalkoztatás, oktatás, kritikus infrastruktúra, alapvető közszolgáltatások, hitelképesség, igazságszolgáltatás - érdemi hatást gyakorolhat emberekre.

Olyan használatot, amelyet az AI Act elfogadhatatlan kockázat miatt eleve kizár. A szervezetnek ezért már beszerzéskor és pilot előtt szűrnie kell ezeket.

Ha a természetes személy közvetlenül MI-rendszerrel lép interakcióba, az érintettet tájékoztatni kell, kivéve, ha ez a körülmények alapján nyilvánvaló.

Nem minden esetben azonos módon, de az AI Act 50. cikke több helyzetben megköveteli az MI-generált vagy manipulált tartalom jelölését, különösen deepfake és közérdekű tájékoztatás esetén.

Olyan technikai jel, metaadat, vízjel vagy más megoldás, amely lehetővé teszi, hogy a tartalom mesterségesen létrehozott vagy manipulált volta automatizált eszközökkel is felismerhető legyen.

Olyan MI által létrehozott vagy manipulált kép-, hang- vagy videotartalom, amely valós személynek, tárgynak, helynek vagy eseménynek tűnhet, és a néző számára hitelesnek látszhat.

Mert a választók megtévesztésének, a közbizalom rombolásának és a demokratikus vita torzításának kockázata magas; ezért a jelölésnek itt különösen egyértelműnek kell lennie.

Érzelemfelismerésnél a rendszer arckifejezésből, hangból vagy viselkedési jelből próbál érzelmi állapotra következtetni. Ennek pontossága, adatvédelmi és alapjogi kockázata miatt erős kontroll kell.

Olyan rendszer, amely biometrikus adatok alapján személyeket kategóriákba sorol. Ez érzékeny adatvédelmi és diszkriminációs kockázatokat hordozhat.

Ha a személyesadat-kezelés valószínűsíthetően magas kockázattal jár - például nagymértékű profilalkotás, munkahelyi értékelés, biometria vagy kiszolgáltatott csoportok érintettsége miatt -, akkor DPIA szükséges.

Nem puszta formális rábólintást. A felügyelőnek értenie kell a rendszer korlátait, hozzá kell férnie a szükséges információkhoz, és tényleges lehetősége kell legyen a döntés megváltoztatására vagy a rendszer leállítására.

Azoknak a készségeknek, tudásnak és megértésnek az összessége, amelyek alapján a szervezet és az érintettek felelősen tudják alkalmazni az MI-t, felismerve a lehetőségeket és kockázatokat.

Nem. A képzésnek szerepkör-, kockázat- és ágazatspecifikusnak kell lennie. Más tudás kell egy HR-esnek, egy fejlesztőnek, egy ügyintézőnek és egy vezetőnek.

Igen, de a közhatalmi és közszolgáltatási működés miatt különösen fontos a jogalap, átláthatóság, emberi felülvizsgálat, adatbiztonság és a lakossági bizalom.

Nem helyes válasz az, hogy a gép. A felelősségi rendet szerződésben, belső szabályzatban és döntési folyamatban kell rögzíteni: beszerző, szolgáltató, alkalmazó, jóváhagyó és felügyelő szerepek szerint.

MI-leltár, kockázati besorolás, majd AI policy és MI-jártassági program. Ezt követi a magasabb kockázatú rendszerek mélyebb jogi, technikai és adatvédelmi vizsgálata.