Az emberi kontroll az MI hatósági alkalmazásának alapja

A mesterséges intelligencia (MI) nagyban segítheti a közigazgatási szervek hatékonyságát, alkalmazásakor azonban továbbra is nélkülözhetetlen az emberi kontroll. Egyebek mellett erről szólt a Nemzeti Média- és Hírközlési Hatóság (NMHH) szakmai konferenciája, amely az MI biztonságos és jogszerű bevezetését, valamint a döntési felelősség kérdéseit is körüljárta.

Aranyosné Börcs Janka, az NMHH főigazgatója köszönti a konferencia résztvevőit

Aranyosné Börcs Janka, az NMHH főigazgatója köszönti a konferencia résztvevőit

Az esemény nyitányaként az NMHH főigazgatója köszöntötte a résztvevőket. Aranyosné Börcs Janka hangsúlyozta: a technológiában lehetőséget kell látnunk, ezért a hatóságnak is meg kell vizsgálnia, miképpen tudja a legjobban hasznosítani az MI nyújtotta előnyöket.

Az NMHH hírközlési szakértője Alan Turing munkásságától az MI-ügynökökig tekintette át a mesterséges intelligencia fejlődését. Bartolits István szerint jelenleg a célhoz kötött MI (ANI) korszakának felső harmadában járunk, miközben az uniós, az amerikai és a kínai szabályozási modell is csupán töredezett védőhálót alkot. Úgy látja, az emberi intellektust minden területen meghaladó szuperintelligencia (ASI) létrehozásában már maguknak a gépeknek is meghatározó szerepük lehet.

A nagy nyelvi modellek magabiztos hangvétellel és hitelesnek tűnő hivatkozásokkal is képesek kitalált tényeket közölni – erre a BME Távközlési és Mesterséges Intelligencia Tanszékének vezetője hívta fel a figyelmet. Varga Pál kiemelte: még a legfejlettebb modellek is „hallucinálhatnak”, ezért elengedhetetlen az általuk szolgáltatott információk ellenőrzése.

A szakmai nap központi kérdése volt, hogy ki viseli a felelősséget az MI által előkészített vagy támogatott döntésekért. Az ENTEL Műszaki Fejlesztő Kft. szakértője szerint a közigazgatásban nem a gép pontossága, hanem a döntések ellenőrizhetősége – az indokolhatóság, a kijavíthatóság és a helytállás – a legfontosabb kritérium. Huszty Csaba úgy fogalmazott: „Az MI használata ma bátorság, holnap a mellőzése gondatlanság”.

Az MI a védelmi szektort is alapjaiban alakíthatja át, ennek kapcsán a Honvéd Vezérkar szakértője a tűz vagy a kerék feltalálásához hasonlította a technológia katonai alkalmazásának jelentőségét. Andi Zoltán ezredes Kína humanoidrobot-fejlesztéseit példaként említve arra is felhívta a figyelmet, hogy hosszabb távon új típusú, nagyrészt automatizált katonai képességek jelenhetnek meg. Mivel Magyarország általános mesterségesintelligencia-stratégiája nem tér ki a védelmi ágazatra, szerinte a Magyar Honvédségnek saját keretrendszert kell kidolgoznia.

Az MI nem helyettesítheti az emberi intelligenciát, részfeladatok megoldásával azonban jelentősen támogathatja a hatósági munkát – erről az NMHH frekvencia- és azonosítógazdálkodási igazgatóhelyettese beszélt. Ulelay Emília a rádióspektrum-gazdálkodás területén vizsgálta a technológia alkalmazását, kitérve az uniós MI-rendelet négy kockázati szintjére, az MI-műveltség fejlesztésének kötelezettségére és az átláthatósági előírásokra is.

Hirling Péter, az NMHH kiberbiztonsági felelőse

Hirling Péter, az NMHH kiberbiztonsági felelőse

Az MI bevezetése nem informatikai projekt, hanem szabályokat, felelősségi köröket és képzést igénylő szervezeti transzformáció – ezt az NMHH kiberbiztonsági felelőse hangsúlyozta. Hirling Péter szerint a tiltás helyett a kontrollált használat feltételeit kell megteremteni, az „MI-szakértelem” hiányát pedig célzott programokkal érdemes kezelni.

Az MI elektronikus hírközlésben és nemzetbiztonságban betöltött szerepéről a Széchenyi István Egyetem oktatója beszélt. Szabó Hedvig kiemelten foglalkozott az olyan kettős felhasználású (dual use), polgári és védelmi célokat egyaránt szolgáló technológiák szabályozásával, mint az 5G, valamint a szabályozási környezet gyors változásával.

A szakmai nap edukációs blokkjában Dalos-Kovács Gabriella mesterségesintelligencia-stratégiai tanácsadó az MI-felkészültséget, a szervezeti érettséget és a vezetői kontroll szerepét vizsgálta. Szertics Gergely, a HUN-REN AI Szolgáltatási Központ igazgatója a kutatóhálózat MI-bevezetési programjának tapasztalatait osztotta meg, míg Balogh Virág és Köblös Dávid András, a Magyar Telekom szakértői vállalatuk gyakorlati megoldásait mutatták be. Az általuk működtetett AI Governance Board egyetlen belépési ponton vizsgálja a felhasználási eseteket, és nem fékként, hanem a biztonságos megvalósítást segítő eszközként tekintenek rá.

Az MI a munkatársak kiválasztásában, a coachingban és a szervezeti fejlesztésben is egyre nagyobb szerepet kaphat – erre Földesi Irén mutatott rá előadásában. A business coach egyúttal hangsúlyozta: a végső döntést ezen a területen sem szabad a mesterséges intelligenciára bízni. Huszty Csaba előadásában egy másik gyakorlati dilemmát, a „build vagy buy”, vagyis a saját fejlesztés és a kész megoldások közötti választás kérdését vizsgálta hatósági környezetben.

A szakmai nap végén az NMHH saját fejlesztései kerültek előtérbe. Gutmann Klára, a hatóság nyilvántartási és tájékoztatási főosztályvezetője és Dienes Bálint, az NMHH műszaki elemzője a MIRA ügyfélszolgálati MI-asszisztens kísérleti programját mutatták be. A rendszer a beérkező ügyfélkérdésekre választervezetet készít, amelyet egy ügyintéző ellenőriz és véglegesít. A házon belül működő megoldás nyílt súlyú modellekre és saját RAG-rendszerre épül. Bodzsár Krisztián, az NMHH mérési csoportvezetője a rádiófrekvenciás monitoring területén elért eredményeket mutatta be, jelezve, hogy a különböző rádiószolgálatok anomália-felismeréséhez eltérő modellek szükségesek. Pelle Veronika médiatudatosság-szakértő az MI társas szereplővé válásának kihívásait és társadalmi veszélyeit vizsgálta a médiatudatosságtól az emberi kapcsolatokig.

Bartolits István, az NMHH hírközlési szakértője

Bartolits István, az NMHH hírközlési szakértője

A szakmai napot Bartolits István zárta, hangsúlyozva a rendezvény egyik legfontosabb üzenetét: a mesterséges intelligencia egyre több területen teheti gyorsabbá és hatékonyabbá a hatósági munkát, felelős alkalmazásának alapja azonban továbbra is az ellenőrizhetőség, a megfelelő szakértelem és az emberi kontroll.

kapcsolódó témakonferencia

Az emberi kontroll az MI hatósági alkalmazásának alapja Galéria

Madarassy Dóra felelős szervező és Nyitray Ágnes protokoll munkatárs fogadja a látogatókat
Madarassy Dóra felelős szervező és Nyitray Ágnes protokoll munkatárs fogadja a látogatókat
Bartolits István, az NMHH hírközlési szakértője
Bartolits István, az NMHH hírközlési szakértője
Aranyosné Börcs Janka, az NMHH főigazgatója köszönti a konferencia résztvevőit
Aranyosné Börcs Janka, az NMHH főigazgatója köszönti a konferencia résztvevőit
Ulelay Emília, az NMHH frekvencia- és azonosítógazdálkodási igazgatóhelyettese
Ulelay Emília, az NMHH frekvencia- és azonosítógazdálkodási igazgatóhelyettese
Hirling Péter, az NMHH kiberbiztonsági felelőse
Hirling Péter, az NMHH kiberbiztonsági felelőse
Gutmann Klára, az NMHH nyilvántartási és tájékoztatási főosztályvezetője
Gutmann Klára, az NMHH nyilvántartási és tájékoztatási főosztályvezetője
Dienes Bálint, az NMHH műszaki elemzője
Dienes Bálint, az NMHH műszaki elemzője
Bodzsár Krisztián, az NMHH mérési csoportvezetője
Bodzsár Krisztián, az NMHH mérési csoportvezetője
Pelle Veronika, az NMHH médiatudatosság-szakértője
Pelle Veronika, az NMHH médiatudatosság-szakértője
Az előadássorozatot több neves szakember között figyelemmel kísérte Polyák Gábor, a Médiatanács elnöke, valamint Aranyosné Börcs Janka főigazgató
Az előadássorozatot több neves szakember között figyelemmel kísérte Polyák Gábor, a Médiatanács elnöke, valamint Aranyosné Börcs Janka főigazgató