A Mesterséges Intelligencia Nemzeti Laboratórium (MILAB) Társadalomtudományi Kutatóközpont Jogtudományi Intézetében zajló részprojektje keretében 2021. május 27-én több kollégánk, valamint meghívott külsős kutatók vettek részt intézetünknek a MILAB keretében megrendezésre kerülő első konferenciáján. A délelőtt során az előadók különböző jogterületek szempontrendszeréből kiindulva tekintették át az MI aktuális szabályozási kihívásait. A szervezők az eseményt egyben műhelyvitaként is hirdették, utalva ezzel a projekt keretében készülő angol nyelvű nemzetközi tanulmánykötetre, amelynek szerzői alkották a konferencia előadóinak többségét.

A reggeli programot intézetünk igazgatója és az Eötvös Loránd Tudományegyetem egyetemi docense, Gárdos-Orosz Fruzsina nyitotta meg köszöntőjével, majd az első panelt intézetünk tudományos főmunkatársa és a Nemzeti Közszolgálati Egyetem egyetemi tanára, Chronowski Nóra vezette. Az első panel az MI szabályozásának olyan absztrakt, általánosabb kérdéseit vette számba, mint a jogalanyiság, a humán kontroll vagy a bizalom alapú hozzáállás. Az első panelben osztotta meg gondolatait a Széchenyi István Egyetem dékánhelyettese, Karácsony Gergely; a Budapesti Metropolitan Egyetem óraadója, Klein Tamás; Chronowski Nóra; intézetünk gyakornoka, Kálmán Kinga; intézetünk és az Eötvös Loránd Tudományegyetem tudományos munkatársa, Szentgáli-Tóth Boldizsár.

Karácsony Gergely abból indult ki, hogy a valós idejű emberi ellenőrzés a mesterséges intelligencia tekintetében a technológia jelen állása tükrében tulajdonképpen csak illúzió, ezért más irányból szükséges megközelíteni az ember-gép viszonyrendszert. Ennek ellenére, pszichológiai kutatásokkal alátámasztott az az emberi viselkedés, hogy hajlamosabbak vagyunk hinni egy gép által létrejött következtetésnek, mintha ugyanazon álláspontot ember képviselné. Karácsony ebből kifolyólag amellett érvelt, hogy a szabályozás is a bizalom előfeltételezésére kell, hogy alapuljon. Ezt felelősségteljes fejlesztők és megbízható algoritmusok alkalmazása útján érhetjük el, többek között laboratóriumi teszteléseket követően.

Klein Tamás a mesterséges intelligencia lehetséges szabályozási kiindulópontjait teleologikus értelmezés útján, annak szükségszerű céljából kiindulva mutatta be. A cél meghatározása során az emberközpontúságnak kulcsszerepet tulajdonított, így következésképpen a mesterséges intelligencia szabályozási céljai egybeesnek a jog általános rendeltetésével. Amellett érvelt, hogy a jog előtt álló egyik legnagyobb kihívás a mesterséges intelligencia személyként történő elismerése. Ennek jelenlegi legfőbb akadálya a szabad akarat, ami az érdemi autonómia hiányából következik a technológiai fejlődés jelenlegi szintjén. A mesterséges intelligencia jogi személyiségének lehetőségéből kiindulva felmerül a felelősség kérdése is, amely tárgyban Klein álláspontja szerint a mesterséges intelligencia determináltsága miatt kizárólag a kockázattelepítés, mint megoldás merülhet fel.

Az első panel záró előadásaként Chronowski Nóra, Kálmán Kinga, valamint Szentgáli-Tóth Boldizsár vizsgálta a mesterséges intelligencia alkalmazási lehetőségeit a tisztességes eljárás tükrében. Rámutattak arra, hogy elsősorban elengedhetetlen annak meghatározása, hogy pontosan milyen elvárásokat támasztunk egy bíróval szemben, milyen megfontolásokon alapul a bíróságokba vetett össztársadalmi bizalom. Amennyiben azonosítjuk a bíróságokra vonatkozó standardokat, ezeket szükséges alkalmazni a mesterséges intelligenciákra és ez alapján kell értékelni a mesterséges intelligencia eljárásokban történő használatának lehetőségét.  Az előadók hangsúlyozták, hogy kiemelt jelentőséggel bír a prudens működés elvárása az algoritmusokkal szemben, így jövőbeli bevezetésük is ezen zsinórmérték szerint, kizárólag fokozatosan képzelhető el. Emellett a bírói jogértelmezési tevékenység sosem lesz helyettesíthető minden területen, így az egyre szélesebb körben hangoztatott nézetekkel ellentétben, a három előadó szerint belátható időn belül nem fogják a robotok felváltani a bírókat.

A második panel a konferencia társszervezője, Szentgáli-Tóth Boldizsár moderátori vezetésével a mesterséges intelligencia szabályozását különböző szakjogági szempontokból vette górcső alá. Felmerültek többek között közigazgatási jogi, büntetőjogi, munkajogi és nemzetközi közjogi problémák és lehetséges megoldási javaslatok is. Ezen szerteágazó kérdéseket tárgyalta a Pécsi Tudományegyetem egyetemi tanársegédje, Hohmann Balázs; a Károli Gáspár Református Egyetem tudományos segédmunkatársa, Rácz Ildikó; a Budapesti Műszaki és Gazdaságtudományi Egyetem egyetemi adjunktusa, intézetünk MILAB projektjének vezetője Mezei Kitti; az Eötvös Loránd Tudományegyetem egyetemi docense, Ambrus István; a Széchenyi István Egyetem tudományos és nemzetközi dékánhelyettese, Kecskés Gábor. Utóbbi három előadó intézetünk tudományos munkatársa is.

Hohmann Balázs az MI közigazgatási jogi felelősségének tárgyalása során kifejtette, hogy a kérdés megítélése a bevonás mértékének függvényében változik. A skálán négy szintet különböztetett meg. Az emberi döntéshozatal esetében a mesterséges intelligencia értelemszerűen nem jelenik meg tényezőként. Ha támogatja az ember által végzett eljárást, már szükséges értékelni a szerepét, azonban az előadó úgy vélte, hogy még ebben az esetben sem változik a felelősség alapszerkezete, így az ember köteles teljes mértékben helytállni. Fordított esetben, az ember által támogatott gépi döntéseknél a személy felelőssége csökken, azonban a közigazgatási szerv helytállási kötelezettsége változatlanul teljes körű marad. Ez kizárólag akkor változik, ha az MI következtetése teszi ki önmagában az egész eljárást, mivel elveszik mind a közigazgatási szerv, mind a képviseletében eljáró személy befolyásolási lehetősége. A problémakör további vetületeként Hohmann hangsúlyozta, hogy várható a mesterséges intelligenciába betáplált mintázatokért való felelősség rendezésének szükségszerűsége is. Konklúzióként úgy tartja, hogy a hatályos felelősségi rendszer jelen formájában nem alkalmazható a mesterséges intelligenciára a közigazgatás területén. A megfelelő garanciarendszer kialakításáig kizárólag döntéstámogatás céljára képzelhető el a használata, illetve célszerű ezen biztosítékok beépítéséig a szimpla automatizáláson alapuló eljárásoknál maradni.

A közigazgatási jog területéről átevezve Rácz Ildikó a munkajog szemszögéből közelített a mesterséges intelligencia fokozódó jogi jelentőségének kérdésköréhez. Előadásában felhívta a figyelmet arra, hogy az algoritmizált folyamatok platformizálják az olyan alapvető munkáltatói funkciókat, mint az utasítási, ellenőrzési jogkörök, vagy a munkafolyamatok megszervezésének kötelezettsége. Legvégső soron ez a munkáltató meghatározásának elmosódásához is vezethet. Ezzel szemben a munkáltató fogalmának funkcionális értelmezése nyújthat segítséget, amely esetén nem jelentene alapvető változást az egyes részjogosítványok mesterséges intelligenciára történő kiszervezése. Emellett kitért a fogyasztói értékelésekre, amelyek a munkáltatói hatalom redisztribúciójaként is értelmezhetők, azonban végső soron kisegítő információforrásként a munkáltatói hatalom megerősödéséhez vezetnek. A fogyasztói értékelések torzító hatásai ellen Rácz szükségesnek tartotta a jogalkotói fellépést is.

Ambrus István a mesterséges intelligencia büntetőjogi megítélése körében előkérdésként a büntetőjogi felelősség szükségességét vetette fel, amely jelenleg még nem tisztázott. Amennyiben erre a kérdésre igenlő választ adunk, további két körben szükséges állást foglalni. Az első a felelősség formája, majd ezt követően a felelős személyt is elengedhetetlen kijelölni. Elképzelhető konstrukcióként a felelősség telepíthető magára a mesterséges intelligenciára, annak működtetőjére, üzembentartójára, tulajdonosára vagy gyártójára egyaránt.

A büntetőjog általános kérdéseit követően Mezei Kitti a büntetőjog különös részét érintően a kiberbűnözés elé állított újszerű kihívásokat tárgyalta. E körben kiemelt veszéllyel járhat a mesterséges intelligencia alkalmazása a bűncselekmény elkövetési tárgyaként vagy eszközeként. Például az egyes bűncselekmények új dimenzióba kerülnek a „deep fake” technológiák segítségével. Új elkövetési eszközként jelennek meg az autonóm járművek, a drónok, vagy az „Internet of Things” eszközei. Az algoritmusok által könnyebbé és visszakövethetetlenebbé válik többek között az üzleti titkok megsértése és a személyes adatokkal való visszaélés. Ezekkel a veszélyekkel szemben a kibervédelem erősítésével lehet küzdeni, ideértve az algoritmusok fejlesztése, tervezése során beültethető biztonsági előírásokat. Mezei az előadás konklúziójaként amellett foglalt állást, hogy a jognak a reaktív szankciókon kívül preventív szabályozási struktúrákkal is fel kell lépnie ezen problémák áthidalása érdekében, amely körben a büntetőjog kitüntetett szereppel bír.

Kecskés Gábor hangsúlyozta, hogy a mesterséges intelligencia térnyerése napjainkban már az államközi kapcsolatokat sem hagyja érintetlenül, így a nemzetközi közjognak is szükséges reagálni ezekre a kihívásokra. Az űr- és tengerjog, a katonai jog, a humanitárius jog, a nemzetközi büntetőjog, illetve a nemzetközi gazdasági kapcsolatok joga területein egyaránt feszegeti a jelenlegi kereteket az MI alkalmazása. A nemzetközi emberi jogokkal összefüggésben az egyik legnagyobb visszhangot a Sophia nevű női robot szaúdi állampolgársága váltotta ki, de ide sorolható az adatvédelem átalakulása is, felvetve az emberi jogi standardok megfelelőségének dilemmáit. Kecskés felhívta a figyelmet arra, hogy a mesterséges intelligenciák „hadba állításának” lehetősége átírhatja a nemzetközi fegyveres konfliktusokat, ugyanakkor számos nemzetközi környezetvédelmi kutatásban vagy humanitárius akcióban az emberek jelentős segítségére lehetnek. Kecskés végül leszögezte, hogy a nemzetközi jogi keretrendszerben jelenleg kevés olyan jogi norma van, amely ezeket a jelenségeket kezelné. Ennek oka többek között a globális álláspont hiányából is fakad, azonban pozitív jeleket mutatnak a vezető államoknak a területen végzett és folyamatban lévő kutatásai. Kecskés úgy foglalt állást, hogy a nemzetközi közjog leghamarabb a szerződésellenőrző szervek útján fog reagálni a mesterséges intelligencia által felvetett dilemmákra.

A paneleket izgalmas diskurzusok követték, amelyek során jogászokon kívül más tudományágak szakértői is megosztották gondolataikat, interdiszciplináris felvetésekkel gazdagítva az alapvetően a jog irányából kiinduló szabályozási kérdéseket. Az előadók egyetértettek abban, hogy a szabályozás legfontosabb alapjai a felelősség és a jogalanyiság problémái köré csoportosulnak, és hogy a jelenlegi kutatások csupán a terület kezdetleges felfedezését érintik. Az elhangzott előadások, illetve további szerzők témába vágó művei néhány hónap múlva angol nyelvű tanulmánykötetben válnak elérhetővé.

A Mesterséges Intelligencia Nemzeti Laboratórium (MILAB) Társadalomtudományi Kutatóközpont Jogtudományi Intézetében zajló részprojektje keretében 2021. május 27-én több kollégánk, valamint meghívott külsős kutatók vettek részt intézetünknek a MILAB keretében megrendezésre kerülő első konferenciáján. A délelőtt során az előadók különböző jogterületek szempontrendszeréből kiindulva tekintették át az MI aktuális szabályozási kihívásait. A szervezők az eseményt egyben műhelyvitaként is hirdették, utalva ezzel a projekt keretében készülő angol nyelvű nemzetközi tanulmánykötetre, amelynek szerzői alkották a konferencia előadóinak többségét.

A reggeli programot intézetünk igazgatója és az Eötvös Loránd Tudományegyetem egyetemi docense, Gárdos-Orosz Fruzsina nyitotta meg köszöntőjével, majd az első panelt intézetünk tudományos főmunkatársa és a Nemzeti Közszolgálati Egyetem egyetemi tanára, Chronowski Nóra vezette. Az első panel az MI szabályozásának olyan absztrakt, általánosabb kérdéseit vette számba, mint a jogalanyiság, a humán kontroll vagy a bizalom alapú hozzáállás. Az első panelben osztotta meg gondolatait a Széchenyi István Egyetem dékánhelyettese, Karácsony Gergely; a Budapesti Metropolitan Egyetem óraadója, Klein Tamás; Chronowski Nóra; intézetünk gyakornoka, Kálmán Kinga; intézetünk és az Eötvös Loránd Tudományegyetem tudományos munkatársa, Szentgáli-Tóth Boldizsár.

Karácsony Gergely abból indult ki, hogy a valós idejű emberi ellenőrzés a mesterséges intelligencia tekintetében a technológia jelen állása tükrében tulajdonképpen csak illúzió, ezért más irányból szükséges megközelíteni az ember-gép viszonyrendszert. Ennek ellenére, pszichológiai kutatásokkal alátámasztott az az emberi viselkedés, hogy hajlamosabbak vagyunk hinni egy gép által létrejött következtetésnek, mintha ugyanazon álláspontot ember képviselné. Karácsony ebből kifolyólag amellett érvelt, hogy a szabályozás is a bizalom előfeltételezésére kell, hogy alapuljon. Ezt felelősségteljes fejlesztők és megbízható algoritmusok alkalmazása útján érhetjük el, többek között laboratóriumi teszteléseket követően.

Klein Tamás a mesterséges intelligencia lehetséges szabályozási kiindulópontjait teleologikus értelmezés útján, annak szükségszerű céljából kiindulva mutatta be. A cél meghatározása során az emberközpontúságnak kulcsszerepet tulajdonított, így következésképpen a mesterséges intelligencia szabályozási céljai egybeesnek a jog általános rendeltetésével. Amellett érvelt, hogy a jog előtt álló egyik legnagyobb kihívás a mesterséges intelligencia személyként történő elismerése. Ennek jelenlegi legfőbb akadálya a szabad akarat, ami az érdemi autonómia hiányából következik a technológiai fejlődés jelenlegi szintjén. A mesterséges intelligencia jogi személyiségének lehetőségéből kiindulva felmerül a felelősség kérdése is, amely tárgyban Klein álláspontja szerint a mesterséges intelligencia determináltsága miatt kizárólag a kockázattelepítés, mint megoldás merülhet fel.

Az első panel záró előadásaként Chronowski Nóra, Kálmán Kinga, valamint Szentgáli-Tóth Boldizsár vizsgálta a mesterséges intelligencia alkalmazási lehetőségeit a tisztességes eljárás tükrében. Rámutattak arra, hogy elsősorban elengedhetetlen annak meghatározása, hogy pontosan milyen elvárásokat támasztunk egy bíróval szemben, milyen megfontolásokon alapul a bíróságokba vetett össztársadalmi bizalom. Amennyiben azonosítjuk a bíróságokra vonatkozó standardokat, ezeket szükséges alkalmazni a mesterséges intelligenciákra és ez alapján kell értékelni a mesterséges intelligencia eljárásokban történő használatának lehetőségét.  Az előadók hangsúlyozták, hogy kiemelt jelentőséggel bír a prudens működés elvárása az algoritmusokkal szemben, így jövőbeli bevezetésük is ezen zsinórmérték szerint, kizárólag fokozatosan képzelhető el. Emellett a bírói jogértelmezési tevékenység sosem lesz helyettesíthető minden területen, így az egyre szélesebb körben hangoztatott nézetekkel ellentétben, a három előadó szerint belátható időn belül nem fogják a robotok felváltani a bírókat.

A második panel a konferencia társszervezője, Szentgáli-Tóth Boldizsár moderátori vezetésével a mesterséges intelligencia szabályozását különböző szakjogági szempontokból vette górcső alá. Felmerültek többek között közigazgatási jogi, büntetőjogi, munkajogi és nemzetközi közjogi problémák és lehetséges megoldási javaslatok is. Ezen szerteágazó kérdéseket tárgyalta a Pécsi Tudományegyetem egyetemi tanársegédje, Hohmann Balázs; a Károli Gáspár Református Egyetem tudományos segédmunkatársa, Rácz Ildikó; a Budapesti Műszaki és Gazdaságtudományi Egyetem egyetemi adjunktusa, intézetünk MILAB projektjének vezetője Mezei Kitti; az Eötvös Loránd Tudományegyetem egyetemi docense, Ambrus István; a Széchenyi István Egyetem tudományos és nemzetközi dékánhelyettese, Kecskés Gábor. Utóbbi három előadó intézetünk tudományos munkatársa is.

Hohmann Balázs az MI közigazgatási jogi felelősségének tárgyalása során kifejtette, hogy a kérdés megítélése a bevonás mértékének függvényében változik. A skálán négy szintet különböztetett meg. Az emberi döntéshozatal esetében a mesterséges intelligencia értelemszerűen nem jelenik meg tényezőként. Ha támogatja az ember által végzett eljárást, már szükséges értékelni a szerepét, azonban az előadó úgy vélte, hogy még ebben az esetben sem változik a felelősség alapszerkezete, így az ember köteles teljes mértékben helytállni. Fordított esetben, az ember által támogatott gépi döntéseknél a személy felelőssége csökken, azonban a közigazgatási szerv helytállási kötelezettsége változatlanul teljes körű marad. Ez kizárólag akkor változik, ha az MI következtetése teszi ki önmagában az egész eljárást, mivel elveszik mind a közigazgatási szerv, mind a képviseletében eljáró személy befolyásolási lehetősége. A problémakör további vetületeként Hohmann hangsúlyozta, hogy várható a mesterséges intelligenciába betáplált mintázatokért való felelősség rendezésének szükségszerűsége is. Konklúzióként úgy tartja, hogy a hatályos felelősségi rendszer jelen formájában nem alkalmazható a mesterséges intelligenciára a közigazgatás területén. A megfelelő garanciarendszer kialakításáig kizárólag döntéstámogatás céljára képzelhető el a használata, illetve célszerű ezen biztosítékok beépítéséig a szimpla automatizáláson alapuló eljárásoknál maradni.

A közigazgatási jog területéről átevezve Rácz Ildikó a munkajog szemszögéből közelített a mesterséges intelligencia fokozódó jogi jelentőségének kérdésköréhez. Előadásában felhívta a figyelmet arra, hogy az algoritmizált folyamatok platformizálják az olyan alapvető munkáltatói funkciókat, mint az utasítási, ellenőrzési jogkörök, vagy a munkafolyamatok megszervezésének kötelezettsége. Legvégső soron ez a munkáltató meghatározásának elmosódásához is vezethet. Ezzel szemben a munkáltató fogalmának funkcionális értelmezése nyújthat segítséget, amely esetén nem jelentene alapvető változást az egyes részjogosítványok mesterséges intelligenciára történő kiszervezése. Emellett kitért a fogyasztói értékelésekre, amelyek a munkáltatói hatalom redisztribúciójaként is értelmezhetők, azonban végső soron kisegítő információforrásként a munkáltatói hatalom megerősödéséhez vezetnek. A fogyasztói értékelések torzító hatásai ellen Rácz szükségesnek tartotta a jogalkotói fellépést is.

Ambrus István a mesterséges intelligencia büntetőjogi megítélése körében előkérdésként a büntetőjogi felelősség szükségességét vetette fel, amely jelenleg még nem tisztázott. Amennyiben erre a kérdésre igenlő választ adunk, további két körben szükséges állást foglalni. Az első a felelősség formája, majd ezt követően a felelős személyt is elengedhetetlen kijelölni. Elképzelhető konstrukcióként a felelősség telepíthető magára a mesterséges intelligenciára, annak működtetőjére, üzembentartójára, tulajdonosára vagy gyártójára egyaránt.

A büntetőjog általános kérdéseit követően Mezei Kitti a büntetőjog különös részét érintően a kiberbűnözés elé állított újszerű kihívásokat tárgyalta. E körben kiemelt veszéllyel járhat a mesterséges intelligencia alkalmazása a bűncselekmény elkövetési tárgyaként vagy eszközeként. Például az egyes bűncselekmények új dimenzióba kerülnek a „deep fake” technológiák segítségével. Új elkövetési eszközként jelennek meg az autonóm járművek, a drónok, vagy az „Internet of Things” eszközei. Az algoritmusok által könnyebbé és visszakövethetetlenebbé válik többek között az üzleti titkok megsértése és a személyes adatokkal való visszaélés. Ezekkel a veszélyekkel szemben a kibervédelem erősítésével lehet küzdeni, ideértve az algoritmusok fejlesztése, tervezése során beültethető biztonsági előírásokat. Mezei az előadás konklúziójaként amellett foglalt állást, hogy a jognak a reaktív szankciókon kívül preventív szabályozási struktúrákkal is fel kell lépnie ezen problémák áthidalása érdekében, amely körben a büntetőjog kitüntetett szereppel bír.

Kecskés Gábor hangsúlyozta, hogy a mesterséges intelligencia térnyerése napjainkban már az államközi kapcsolatokat sem hagyja érintetlenül, így a nemzetközi közjognak is szükséges reagálni ezekre a kihívásokra. Az űr- és tengerjog, a katonai jog, a humanitárius jog, a nemzetközi büntetőjog, illetve a nemzetközi gazdasági kapcsolatok joga területein egyaránt feszegeti a jelenlegi kereteket az MI alkalmazása. A nemzetközi emberi jogokkal összefüggésben az egyik legnagyobb visszhangot a Sophia nevű női robot szaúdi állampolgársága váltotta ki, de ide sorolható az adatvédelem átalakulása is, felvetve az emberi jogi standardok megfelelőségének dilemmáit. Kecskés felhívta a figyelmet arra, hogy a mesterséges intelligenciák „hadba állításának” lehetősége átírhatja a nemzetközi fegyveres konfliktusokat, ugyanakkor számos nemzetközi környezetvédelmi kutatásban vagy humanitárius akcióban az emberek jelentős segítségére lehetnek. Kecskés végül leszögezte, hogy a nemzetközi jogi keretrendszerben jelenleg kevés olyan jogi norma van, amely ezeket a jelenségeket kezelné. Ennek oka többek között a globális álláspont hiányából is fakad, azonban pozitív jeleket mutatnak a vezető államoknak a területen végzett és folyamatban lévő kutatásai. Kecskés úgy foglalt állást, hogy a nemzetközi közjog leghamarabb a szerződésellenőrző szervek útján fog reagálni a mesterséges intelligencia által felvetett dilemmákra.

A paneleket izgalmas diskurzusok követték, amelyek során jogászokon kívül más tudományágak szakértői is megosztották gondolataikat, interdiszciplináris felvetésekkel gazdagítva az alapvetően a jog irányából kiinduló szabályozási kérdéseket. Az előadók egyetértettek abban, hogy a szabályozás legfontosabb alapjai a felelősség és a jogalanyiság problémái köré csoportosulnak, és hogy a jelenlegi kutatások csupán a terület kezdetleges felfedezését érintik. Az elhangzott előadások, illetve további szerzők témába vágó művei néhány hónap múlva angol nyelvű tanulmánykötetben válnak elérhetővé.

_____________________________________________

Készült a 138965. számú NKFIH pályázat és a Mesterséges Intelligencia Nemzeti Laboratórium keretében az Innovációs és Technológiai Minisztérium, valamint a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal támogatásával.

_____________________________________________

Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.