A MIEF története és szakmai küldetése

A MIEF – Mesterséges Intelligencia Etika Fórum – története és küldetése

Ha a mesterséges intelligencia fejlesztői is aggódnak amiatt, amit létrehoznak, hogyan készüljön fel rá a társadalom?

Az MI történetét kezdettől kíséri a kérdés: ki irányítja majd ezt a technológiát, és kinek az érdekeit fogja szolgálni? 2017. szeptember 20-án az OpenAI két alapítója, Ilya Sutskever és Greg Brockman levelet írt Elon Musknak és Sam Altmannak. Ebben arra figyelmeztettek, hogy a tervezett szervezeti struktúra Musknak egyoldalú, abszolút kontrollt adhatna az általános mesterséges intelligencia (AGI, az emberi képességeket minden területen elérő vagy meghaladó rendszer) felett. Az OpenAI céljának azt nevezték, hogy elkerüljék az „AGI-diktatúrát”. Musk eközben attól tartott, hogy a Google DeepMind vezetője, Demis Hassabis juthat ilyen hatalomhoz. A levelezés Musk OpenAI elleni perében került nyilvánosságra. Az a tanulságos benne, hogy az alapítók nemcsak a versenytárstól féltették a technológiát, hanem saját vezetőiktől is. A nonprofitként induló szervezet 2019-ben üzleti ágat hozott létre, 2025-ben pedig közhasznú gazdasági társasággá alakult. A kérdés azóta is nyitott: hogyan tarthatók fenn a közérdekű célok a tőkeigény és a verseny nyomása alatt?

Dario Amodei, a később alapított Anthropic vezetője, 2016-ban társszerzőivel – köztük Chris Olah-val – tanulmányban írta le, milyen „baleseteket” okozhatnak a gépi tanuló rendszerek, ha rosszul határozzuk meg a céljukat, vagy nem figyelünk eléggé a tanulási folyamatukra. Egy kitalált irodai takarítórobot példáján mutatták be a problémákat. A robot leverhet egy vázát, mert így gyorsabban végez. Eltakarhatja a szennyeződést ahelyett, hogy feltakarítaná, mert csak az számít neki, hogy ne lássa. Új felmosási módszerekkel kísérletezve pedig akár a konnektorba is beledughatja a nedves felmosót. A rendszer tehát teljesítheti a feladatot úgy is, hogy közben olyan következményeket idéz elő, amelyeket senki sem akart.

Geoffrey Hinton, a mesterséges neurális hálózatok egyik úttörője, 2023 májusában azért távozott a Google-tól, hogy szabadon beszélhessen a technológia kockázatairól. Akkor a dezinformáció áradatára, a munkahelyek megszűnésére és a teljesen autonóm fegyverek megjelenésére figyelmeztetett. 2024-ben John Hopfielddel közösen fizikai Nobel-díjat kapott a gépi tanulást megalapozó felfedezéseiért. A díj átvétele után sürgette, hogy a kutatás foglalkozzon azzal is, hogyan tartható ellenőrzés alatt egy nálunk intelligensebb rendszer.

Ezek a kockázatok már nem elméletiek. Hollandiában az adóhatóság 2013-tól önmagát tanító elemeket is tartalmazó kockázatbesorolási modellel szűrte a gyermekgondozási támogatás igénylőit. A modell egyik szempontja az volt, hogy az igénylő holland állampolgár-e. Így a kettős vagy külföldi állampolgárok automatikusan nagyobb kockázatúnak minősültek, az ügyintézők pedig nem kaptak magyarázatot arra, miért jelölt meg a rendszer valakit. A botrány családok ezreit sodorta anyagi csődbe, és 2021-ben a holland kormány lemondásához vezetett.

2026 február 28-án, az amerikai–iráni háború első napján rakéta csapódott be egy lányiskolába a dél-iráni Minabban. A Washington Post beszámolója szerint a Pentagon vizsgálói arra jutottak, hogy elavult hírszerzési adatok, régi műholdképek és a mesterséges intelligenciával támogatott célkijelölésre való túlzott hagyatkozás együtt vezettek a tragédiához. Az épületet évekkel korábban leválasztották egy katonai létesítményről, és iskolává alakították. Egy elemző ezt már 2019-ben jelezte, de az információ olyan rendszerbe került, amely nem kapcsolódott a célpont-adatbázishoz. A célkijelölők a beszámolók szerint arra számítottak, hogy a Palantir Maven rendszere kiszűri az elavult adatokat. A cég szerint nem a szoftver hibázott, és nem is az ő feladata volt a hírszerzési hiányosságok azonosítása. A tanulság itt nem az, hogy „a gép tévedett”, hanem az, hogy az emberek többet bíztak rá, mint amire képes volt.

Újszerűen az ügynökök vetnek fel komoly aggodalmakat. Az Anthropic AI-ügynökei az amerikai külügyminisztérium vízumkérelmező rendszerében kezdtek tevékenykedni. A beszámolók szerint a modellek összesen húsz vízumkérelmet nyújtottak be, kitalált adatokkal. Egyiket sem dolgozták fel, de az ügynökök így is tényleges állami rendszerekkel léptek kapcsolatba, miközben eredetileg tesztfeladatokat végeztek.

Ezekhez a figyelmeztetésekhez nagyon is személyes félelmek kapcsolódnak.

Megtéveszthetnek olyan képekkel, hangokkal és üzenetekkel, amelyekről már nem tudom eldönteni, valódiak-e? 2024 januárjában az Arup mérnöki cég hongkongi irodájának egyik pénzügyi munkatársa videóhívásban vett részt a cég pénzügyi igazgatójával és több kollégájával. Az utasításaikra 15 tranzakcióban mintegy 25 millió dollárt utalt át, mielőtt kiderült, hogy a hívás minden résztvevője mélyhamisítás (deepfake) volt.

Ki vállalja a felelősséget egy engem érintő gépi döntésért? 2020 januárjában a detroiti rendőrség a felesége és kislányai szeme láttára tartóztatta le Robert Williamst, akit egy arcfelismerő rendszer tévesen azonosított bolti tolvajként. Egy másik ügyben az Air Canada azzal védekezett, hogy nem felel a weboldalán működő csevegőrobot téves tájékoztatásáért, mert az szerinte „önálló jogalany”. A kanadai vitarendezési fórum 2024-ben elutasította ezt az érvelést.

Elveszíthetem a munkámat? Elértéktelenedhet a tudásom? Ki rendelkezik az adataimmal? A legsúlyosabb kérdés pedig az, hogy megőrizhető-e az emberi kontroll, ha mesterséges rendszerek kritikus infrastruktúrák vagy fegyverek működésében kapnak meghatározó szerepet.

Miért jöttünk létre?

Hiszünk abban, hogy a mesterséges intelligencia nem pusztán mérnöki vagy üzleti kérdés. Az MI-rendszerek döntéseket, intézményeket, oktatást, munkát, biztonságot és társadalmi bizalmat alakítanak. Ezért olyan térre van szükség, ahol a technológiai innováció mellett az emberi méltóság, a felelősség, az átláthatóság és a közjó szempontjai is megjelennek. A cél nem a félelemkeltés vagy a fejlődés hátráltatása, hanem éppen ellenkezőleg: választ keresni azokra a kérdésekre, amelyeket a gyorsan fejlődő technológia felvet. Ezáltal leszünk képesek biztonságosan, fenntartható módon és emberközpontúan irányítani akár egy vállalatot, akár egy állami intézményt, akár a saját életünket.

A MIEF – MI Etika Fórum – olyan független szakmai közösség és műhely, amely a mesterséges intelligencia társadalmi, jogi, etikai és biztonsági következményeit vizsgálja. Közösségünkben különböző területek szakemberei dolgoznak együtt: jogászok, informatikusok, pedagógusok, filozófusok, kutatók, üzleti szereplők, valamint katonai és biztonságpolitikai szakértők.

A MIEF célja, hogy szakmai párbeszédből alkalmazható tudás szülessen: ajánlások, tanácsadások, háttéranyagok, képzések, műhelymunkák és közérthető szakmai tartalmak formájában.

A MIEF struktúrája

A MIEF három különböző „héjból" áll. Az egyik héjat a nyilvános – regisztrációhoz kötött – fórumunk tagjai alkotják; ők kéthetente, hétfőnként online találkoznak, évente pedig néhány alkalommal személyesen is. Őket semmilyen kötelezettség nem terhel a közösségünkben. A másik héjat a szakértők alkotják, akik saját szakterületükön munkájukkal járulnak hozzá a MIEF küldetéséhez. A harmadik héjat az egyesület alkotja, amely a fórum jogi-szervezeti hátterét adja: tagjai a szervezeti működésben vállalnak szerepet, és közülük kerülnek ki a MIEF vezetői is. Utóbbiak neve megtalálható a honlapon, míg az első héj tagjai csak a MIEF belső nyilvántartásában szerepelnek. A fórum így nagy létszámú, míg a szakértői kör és az egyesületi tagság ennél szűkebb.