AI Act közérthetően

Az AI Act nem a mesterséges intelligenciát tiltja vagy engedi általában, hanem kockázati szintek szerint szabályozza, hogy mely MI-használatok tilosak, melyek magas kockázatúak, és hol kell külön tájékoztatni az embereket.

Amikor MI-rendszert fejleszt, forgalmaz, importál, bevezet vagy használ, különösen, ha az uniós piacon működik, embereket érintő döntéseket támogat, vagy MI-generált tartalmat tesz közzé.

Igen, de nem feltétlenül magas kockázatú. Belső használatnál tipikusan adatvédelmi, titokvédelmi, szerzői jogi, információbiztonsági és MI-jártassági szabályokra van szükség.

Szolgáltató az, aki MI-rendszert fejleszt vagy saját neve alatt forgalomba hoz. Alkalmazó az, aki saját tevékenysége során MI-rendszert használ. Egy szervezet különböző helyzetekben mindkét szerepben lehet.

Olyan rendszer, amely érzékeny területeken - például foglalkoztatás, oktatás, kritikus infrastruktúra, alapvető közszolgáltatások, hitelképesség, igazságszolgáltatás - érdemi hatást gyakorolhat emberekre.

Olyan használatot, amelyet az AI Act elfogadhatatlan kockázat miatt eleve kizár. A szervezetnek ezért már beszerzéskor és pilot előtt szűrnie kell ezeket.

Ha a természetes személy közvetlenül MI-rendszerrel lép interakcióba, az érintettet tájékoztatni kell, kivéve, ha ez a körülmények alapján nyilvánvaló.

Nem minden esetben azonos módon, de az AI Act 50. cikke több helyzetben megköveteli az MI-generált vagy manipulált tartalom jelölését, különösen deepfake és közérdekű tájékoztatás esetén.

Olyan technikai jel, metaadat, vízjel vagy más megoldás, amely lehetővé teszi, hogy a tartalom mesterségesen létrehozott vagy manipulált volta automatizált eszközökkel is felismerhető legyen.

Olyan MI által létrehozott vagy manipulált kép-, hang- vagy videotartalom, amely valós személynek, tárgynak, helynek vagy eseménynek tűnhet, és a néző számára hitelesnek látszhat.

Mert a választók megtévesztésének, a közbizalom rombolásának és a demokratikus vita torzításának kockázata magas; ezért a jelölésnek itt különösen egyértelműnek kell lennie.

Érzelemfelismerésnél a rendszer arckifejezésből, hangból vagy viselkedési jelből próbál érzelmi állapotra következtetni. Ennek pontossága, adatvédelmi és alapjogi kockázata miatt erős kontroll kell.

Olyan rendszer, amely biometrikus adatok alapján személyeket kategóriákba sorol. Ez érzékeny adatvédelmi és diszkriminációs kockázatokat hordozhat.

Ha a személyesadat-kezelés valószínűsíthetően magas kockázattal jár - például nagymértékű profilalkotás, munkahelyi értékelés, biometria vagy kiszolgáltatott csoportok érintettsége miatt -, akkor DPIA szükséges.

Nem puszta formális rábólintást. A felügyelőnek értenie kell a rendszer korlátait, hozzá kell férnie a szükséges információkhoz, és tényleges lehetősége kell legyen a döntés megváltoztatására vagy a rendszer leállítására.

Azoknak a készségeknek, tudásnak és megértésnek az összessége, amelyek alapján a szervezet és az érintettek felelősen tudják alkalmazni az MI-t, felismerve a lehetőségeket és kockázatokat.

Nem. A képzésnek szerepkör-, kockázat- és ágazatspecifikusnak kell lennie. Más tudás kell egy HR-esnek, egy fejlesztőnek, egy ügyintézőnek és egy vezetőnek.

Igen, de a közhatalmi és közszolgáltatási működés miatt különösen fontos a jogalap, átláthatóság, emberi felülvizsgálat, adatbiztonság és a lakossági bizalom.

Nem helyes válasz az, hogy a gép. A felelősségi rendet szerződésben, belső szabályzatban és döntési folyamatban kell rögzíteni: beszerző, szolgáltató, alkalmazó, jóváhagyó és felügyelő szerepek szerint.

MI-leltár, kockázati besorolás, majd AI policy és MI-jártassági program. Ezt követi a magasabb kockázatú rendszerek mélyebb jogi, technikai és adatvédelmi vizsgálata.

Alapvető fontosságú, hogy az MI által létrehozott vagy manipulált tartalmak mesterséges eredete átlátható legyen. Az egyre sokoldalúbb és egyre nagyobb képességű MI-rendszerek miatt mind nehezebb megkülönböztetni az MI-tartalmakat az ember által létrehozott, hiteles tartalmaktól. Ez a nagy léptékű félretájékoztatás és manipuláció, a csalás, a megszemélyesítés és a fogyasztók megtévesztésének új kockázatait veti fel.

Erre tekintettel az AI Act 50. cikke átláthatósági kötelezettségeket állapít meg bizonyos MI-rendszerek – többek között a generatív és az interaktív MI-rendszerek, valamint a deepfake-ek – szolgáltatói és alkalmazói számára.

A kötelezettségek célja a megtévesztés, a megszemélyesítés és a félretájékoztatás kockázatának csökkentése, valamint az információs ökoszisztéma iránti bizalom és az ökoszisztéma integritásának erősítése. Az emberek így tudni fogják, mikor lépnek kapcsolatba MI-vel, és mikor találkoznak MI által létrehozott tartalommal – ez segíti őket a megalapozott döntések meghozatalában.

Az 50. cikk az MI-rendszerek négy típusára terjed ki. Az emberekkel interakcióba lépő MI-rendszerek szolgáltatóinak tájékoztatniuk kell a felhasználót arról, hogy MI-rendszerrel, nem pedig emberrel áll kapcsolatban, kivéve, ha ez nyilvánvaló.

Az MI által létrehozott vagy manipulált tartalmak szolgáltatóinak elő kell segíteniük az ilyen tartalmak azonosítását: a tartalmakat géppel olvasható módon kell megjelölniük, lehetővé téve a kapcsolódó észlelési megoldások működését.

Az érzelemfelismerő vagy biometrikus kategorizálási rendszerek alkalmazóinak biztosítaniuk kell, hogy az e rendszerek működésének kitett személyek tájékoztatást kapjanak.

A deepfake-tartalmat, illetve a nyilvánosság közérdekű ügyekről való tájékoztatását célzó, MI által létrehozott vagy manipulált szöveget közzétevő alkalmazóknak pedig – meghatározott esetek kivételével – tájékoztatniuk kell a felhasználókat a tartalom mesterséges eredetéről. A tájékoztatást minden esetben egyértelmű és hozzáférhető formában kell nyújtani.

A megjelölésre és az észlelésre többféle technika alkalmazható: vízjelek, metaadat-alapú azonosítás, a tartalom eredetének és hitelességének igazolására szolgáló kriptográfiai módszerek, naplózás, ujjlenyomat-képzés vagy más eljárások.

Ezeknek a technikáknak – amennyiben ez műszakilag megvalósítható – kellően megbízhatónak, interoperábilisnak, hatékonynak és robusztusnak kell lenniük. A szolgáltatóknak emellett figyelembe kell venniük az egyes tartalomtípusok sajátosságait és korlátait, valamint a terület technológiai és piaci fejleményeit is.

A technika állásának megfelelő, most formálódó eljárások és gyakorlatok azonosítása az átlátható generatív MI-rendszerekre vonatkozó gyakorlati kódex keretében végzett munka fontos része lesz.

Az átlátható generatív MI-rendszerekre vonatkozó gyakorlati kódex önkéntes eszköz lesz annak biztosítására, hogy a generatív MI-rendszerek szolgáltatói és alkalmazói megfelelően teljesítsék a mesterséges intelligenciáról szóló rendelet 50. cikkének (2) és (4) bekezdésében meghatározott kötelezettségeket.

A Bizottság által jóváhagyott kódex egyértelmű intézkedéseket biztosít az alkalmazási körbe tartozó generatív MI-rendszereket fejlesztő vagy fejleszteni tervező alkalmazók és szolgáltatók számára. A kódex biztosítani fogja, hogy a kódexhez csatlakozó szolgáltatók és alkalmazók által az európai piacon forgalomba hozott generatív MI-rendszerek kellően átláthatók legyenek, összhangban a mesterséges intelligenciáról szóló rendelet vonatkozó átláthatósági követelményeivel.

A gyakorlati kódex gyakorlati intézkedései kizárólag a mesterséges intelligenciáról szóló rendelet 50. cikkének (2) és (4) bekezdésében meghatározott kötelezettségekre terjednek ki. Az iránymutatások az 50. cikk egészére kiterjednek.

Emellett a gyakorlati kódex több érdekelt felet bevonó folyamat keretében kerül kidolgozásra, és műszaki végrehajtási eszközöket biztosít.

A Bizottság által kidolgozandó és elfogadandó iránymutatások tisztázni fogják az alkalmazási kört, a vonatkozó jogi fogalommeghatározásokat, az átláthatósági kötelezettségeket, a kivételeket és a kapcsolódó horizontális kérdéseket.

A kódex fő címzettjei a kötelezettségek hatálya alá tartozó generatív MI-rendszerek szolgáltatói és alkalmazói, köztük a kkv-k.

A Bizottság emellett az átláthatósági technikák szolgáltatóit, a civil társadalmi szervezeteket, a tudományos szakértőket és más érintett szervezeteket, ágazati szövetségeket is felkérte a szövegezési folyamat támogatására. A széles körű bevonás célja, hogy a kódex hatékonyan segítse az átláthatósági kötelezettségek végrehajtását, támogassa az észlelési megoldások hozzáférhetővé tételét, és előmozdítsa az értéklánc más szereplőivel való együttműködést.

Az 50. cikkből eredő átláthatósági kötelezettségek kiegészítik az általános célú MI-modellekre alkalmazandó átláthatósági szabályokat (53. és 55. cikk). Ez utóbbiakat az általános célú MI-modellek gyakorlati kódexe (GPAI) és a modell tanításához használt tartalom összefoglalására szolgáló bizottsági sablon részletezi tovább.

Míg a GPAI gyakorlati kódex a GPAI-modellekre, az MI-hivatalnak, az illetékes nemzeti hatóságoknak és a downstream szolgáltatóknak nyújtandó dokumentációra és információkra, továbbá a bemeneti tanítási adatok átláthatóságára összpontosít, az átlátható generatív MI-rendszerekről szóló kódex a jelölési technikákkal, valamint azzal foglalkozik, hogy az MI által létrehozott vagy manipulált kimenetek átláthatók legyenek az azoknak kitett személyek számára.

Az átlátható generatív MI-rendszerekről szóló kódex rendszerszintű átláthatósági kötelezettségeket céloz, ideértve többek között a GPAI-rendszereket is. Figyelembe veszi azokat az átláthatósági technikákat is, amelyeket a GPAI-modellek szolgáltatói alkalmazhatnak annak elősegítésére, hogy a downstream MI-rendszerek szolgáltatói teljesítsék átláthatósági kötelezettségeiket.

A Bizottság által hivatalosan jóváhagyott kódex alapján, az aláírók a kódexre is támaszkodhatnak a kötelezettségeknek való megfelelés bizonyítása érdekében. A kódexhez csatlakozó szolgáltatók és alkalmazók tekintetében a Bizottság jogérvényesítési tevékenységeit a kódex betartásának nyomon követésére fogja összpontosítani. Ez növeli majd az érintettek iránt a Bizottság és más érdekelt felek bizalmát.