Az okos algoritmusok egyre több kérdést vetnek fel, és egyre többen vélik úgy, jogilag szabályozni kellene az ágazatot.
A mesterséges intelligencia (MI) se nem mesterséges, se nem intelligens – állítja nemrég megjelent, Atlasz a mesterséges intelligenciákhoz című könyvében Kate Crawford. A Microsoft kutatója, és többek között a mesterséges intelligencia kérdéskörével foglalkozó AI Now intézet társalapítója úgy fogalmazott: „A fejlesztések kezdetén, azaz már 1956-ban elkövettük azt a szörnyű hibát, hogy elhittük, az emberi elme olyan, mint a számítógépek és fordítva. Azóta is ebben az »eredendő bűnben« leledzünk, azt feltételezve, hogy ezek a fejlesztések az emberi intelligencia másai, ám ehhez képest semmi sem állhat ettől távolabb az igazságtól” – állítja az ausztrál kutató.
Az MI fejlesztésének ellentmondásait jól mutatja az a probléma, miként használnak tömegével adatokat a rendszerek „tanítására”. „A probléma az 1980-as évekre nyúlik vissza, amikor általánossá vált az adathalmazok használata anélkül, hogy tudták volna, mi van bennük, vagy aggodalmakat fogalmaztak volna meg a magánélet esetleges megsértése miatt. Csak »nyers« anyagként tekintettek rájuk, több ezer kutatásban újrafelhasználva azokat. De az adatok nem élettelen halmazok. Egy bűnözőkről készült adatbázis képeinek története eltér az Oscar-díjakon készített fotókétól, mégis ezeket mind egyformán használják. Ez számos problémát okoz. 2021-ben még mindig nincs az egész ágazatra kiterjedő szabvány arra, hogy milyen típusú adathalmaz készleteket használnak »képzésre«, azokat hogyan gyűjtötték, és ezekkel kapcsolatban milyen lehetséges etikai kérdések merültek fel” – mutat rá a Wired magazinban megjelent interjújában Kate Crawford.
Hogy mindez a gyakorlatban hogyan néz ki, azt jól illusztrálja az 1960-as évek óta zajló kutatás, amelynek célja az érzelmek felismerése az arcokról. Az egész azonban ott bicsaklik meg, hogy nem veszi figyelembe a kultúrát és például azt, ha a tesztalanyok színlelik az érzéseiket. A vita nem eldöntött, ám egy két évvel ezelőtt publikált, mintegy ezer korábbi tanulmányt összegző kutatás nem talált bizonyítékot arra, hogy az ember érzelmeit megbízhatóan ki lehetne következtetni az arcukból.
Kate Crawford szerint aggasztó folyamatok zajlanak az MI-ágazatban. „Sok kutatás szigorúan a technikai megoldásokra és a torzítások szűk matematikai megközelítésére összpontosít, ahelyett hogy szélesebb körben szemlélnék, hogyan lehetne ezeket a rendszereket összhangba hozni olyan összetett társadalmi intézményekkel, mint a büntetőjog, az igazságszolgáltatás, az oktatás, vagy épp az egészségügy” – mondja. A kutató emellett azt is szeretné, ha a fejlesztések kevésbé az etikai, mint inkább a hatalom kérdéseire összpontosítanának. „Ezeket a rendszereket olyan hatalmas érdekek használják, amelyek már a világ legkiváltságosabbjait képviselik” – állítja a szakember.
Mindezek fényében, vajon van-e értelme az úgynevezett mesterséges intelligenciáknak? Crawford szerint az olyan részei, mint a statisztikai előrejelzés, hihetetlenül hasznosak. Azonban „olyan rendszerekre támaszkodunk, amelyek nem rendelkeznek megfelelő biztonsági korlátokkal. Szerinte ezért is égetően szükség lenne a jogi szabályozásra, ugyanis akadnak olyan fejlesztések, amelyek – jelenleg bármiféle regula nélkül – komoly károkat okoznak.
Ami a jogalkotói hozzáállást illeti, ahogy a csúcstechnológiai fejlesztések egyéb területein is, az idén hivatalba lépett Biden-adminisztráció részéről van hajlam a szabályozási hajlandóságra. A Fehér Ház tudományos és technikai részlegének helyettes vezetője, Alondra Nelson korábban jelezte, hogy nem lehet kikerülni a témát. Ez azért is számít kulcskérdésnek a jövőben, mert az egyre inkább egymástól függő digitalizáció és a piacgazdaság kapcsolata a munkavállalói jogokra vagy épp a klíma- és környezettudatosság kérdéseire is komoly hatással lehet.
