A mesterséges intelligencia és az automatizált döntéshozatali rendszerek számos előnyük mellett kockázatokat is rejtenek. Az Európai Parlament a valós veszélyek felmérését és a megoldások kidolgozását kéri.

Ma már az algoritmusok, a gépek és programok által megnyilvánuló intelligencia az embernél pontosabban és gyorsabban tud feldolgozni nagy adathalmazokat, így a mesterséges intelligenciát (MI) egyre gyakrabban alkalmazzák a mérnöki munka, a pénzügy, az egészségügy, az oktatás, vagy éppen az igazságügy területén. A használata azonban kockázatokat is rejt, főként azokban az esetekben, amikor egy gép a döntéseit emberi felügyelet nélkül hozza meg.

A gépi tanulás az adathalmazban szereplő minták kialakításán és felismerésén alapul. Probléma akkor merül fel, ha a rendelkezésre álló adatok külső hatásra torzulnak, így torzul a végeredmény is.
A mesterséges intelligenciát egyre többször alkalmazzák automatikus döntéshozatali rendszerekben, például hitelek elbírálásánál, munkahelyi felvételiknél, orvosi diagnózis és kúra felállításánál, vagy éppen igazságügyi döntések meghozatalakor. Sokszor azonban a rendszer hibás: néhány felvételi algoritmus például hátrányos megkülönböztetést mutatott a nőkkel szemben.

Az EP-képviselők szerdán szavaznak állásfoglalásukról, amiben Ebben kijelentik, hogy a mesterséges intelligenciával vagy automatizált döntéshozatali rendszerekkel kapcsolatba kerülő fogyasztóknak megfelelő tájékoztatást kell adni és biztosítani kell, hogy tudják, hogy működik a rendszer, és ismerik az abban rejlő kockázatokat.
Az EP a következőkre kéri a Bizottságot:

  • biztosítsa a fogyasztók védelmét a tisztességtelen, vagy diszkriminatív kereskedelmi gyakorlatokkal szemben, illetve a mesterséges intelligencián alapuló szolgáltatásokkal járó kockázatokkal szemben;
  • garantálja a nagyobb átláthatóságot ezekben a folyamatokban;
  • biztosítsa, hogy az automatizált döntéshozatali rendszerek csak kiváló minőségű és torzítás nélküli adatkészleteket használjanak.
    Az Európai Bizottság várhatóan február 19-én ismerteti a mesterséges intelligencia uniós szabályozására vonatkozó terveit.

További információ: Az EP állásfoglalás-tervezete (angolul)