gyors belépés:

ugrás a tartalomhoz (Alt 1) ugrás a főmenühöz (Alt 2)

Radó Nóra
Mesterséges intelligencia és a technológia etikája | A Contemplate-kezdeményezés

Contemplate
Grafika: Elekes Réka © Goethe-Institut Budapest

Mit jelent majd emberként élni, ha a technológiai és a tudományos haladásnak tényleg abba a korszakába lépünk, amikor a mesterséges intelligencia, az önvezető autók, a robotmunkások, az adatvédelmet sutba dobó közösségi média, az elektronikus megfigyelési rendszerek, a génszerkesztési technológiák vagy a laboratóriumokban előállított szintetikus húsok válnak meghatározóvá?

Az emberiség történetének eddigi legnagyobb vulkánkitörése 1815-ben történt az indonéz Tamborán. A leírhatatlan katasztrófa nem csupán ahhoz vezetett, hogy abban az évben nyáron esett a hó New York-ban, hanem feltalálták a biciklit is. [1] A tavaly decemberben megjelent, majd a világ vélt normalitását letaroló COVID–19-járvány sem csupán azt a felismerést hozta magával, hogy mennyire törékeny is a körülöttünk felépült világ. Szuperszonikus sebességgel innovációk sorát eredményezte az oktatás, az egészségügy és számos más szektor területén. Sőt, a fejlesztések virágkora még csak most érkezik. Gyorsabban, mint az előzőek. Vagy még annál is halálosabb iramban.

A tudomány és a technológia igyekszik kényelmesebbé tenni mindennapjainkat, hatékonyabbá a munkánkat és megjósolhatóbbá a körülményeinket. Ha csak egy pillanatra is kiemeljük a fejünket a Facebook-lájkok, a Google-kalendáriumok vagy az Apple Watch-értesítések rengetegéből, felmerül a kérdés: Merre is tartunk valójában? Mivé lesz az ember az egyre kényelmesebb, egyre hatékonyabb és egyre kiszámíthatóbb körülmények között? Mi marad mindabból, ami emberi? Mivé lesz az ember, ha a mesterséges intelligencia alapú programok rajzolják meg, merre menjen a városban, az algoritmusok ajánlják, mit nézzen este a Netflixen, és mit egyen, ha egészségesen akar élni? Mivé lesz az ember, ha a mesterséges intelligencia alapú választások kezdik el irányítani az ízlését, a látásmódját, a gondolkodását? Mivé lesz az ember, ha algoritmusok számítják ki, milyen közösségek mely tagjai válhatnak potenciális bűnelkövetőkké – hová lesz az ártatlanság vélelme? Vagy mivé lesz az ember, ha folyamatosan algoritmusok kontrollja alatt tartja a következő generációt, és feláldozza az egyéni szabadságot a biztonság oltárán? 

A mesterséges intelligencia megmutatja, hol húzódnak az ember határai


Mi marad az emberiből? És mi marad a minket körülvevő természeti értékekből az egyre növekvő szén-dioxid-kibocsátási ráták, a zsugorodó biodiverzitás, az állandóan növekvő fogyasztás és a szeméthegyek között?

A technológia szakértői, a társadalomtudományok művelői, művészek és környezetvédők segítségével a Contemplate csapata ezeket a kérdéseket kívánja feszegetni. Yuval Noah Harari ismert izraeli történész szerint a 21. században a három legnagyobb kérdés az emberiség számára, hogy mi lesz a nukleáris energia sorsa, mit teszünk a klímakatasztrófa megállításáért, és hogyan kezeljük a diszruptív technológiákat, beleértve a mesterséges intelligenciát. A Contemplate pedig ennek nyomdokain azt a fő kérdést teszi fel, mit jelent az Arisztotelész által évezredekkel ezelőtt megfogalmazott „jó élet” a szempillantás alatt végbemenő technológiai fejlődés és a természet ugyanolyan gyorsan történő hanyatlása közepette. Melyek azok az etikai kérdések, amelyeket fel kell tennünk, és amelyek hatással lehetnek mind az egyénre, mind a közösségekre? Hogyan emelkedhetünk felül a profitorientált gazdaság rövidlátóságán, és összpontosíthatunk a hosszú távú kilátásokra? Hogyan készülhetünk fel a következő évtizedekre?

Michael Sandel szerint minden technológia egyszerre hordoz magában egy ígéretet és egy veszélyt. [2] Egy adott technológia nem csupán megoldást kínál egy problémára, hanem (gyakran előre nem látható) erkölcsi dilemmákkal terhelt helyzetekbe taszít egyéneket és közösségeket is, az etikai problémákat pedig kezelni kell. Számtalan példát láthatunk erre manapság. Ki gondolta volna, hogy a száraz adathalmazok vélt semlegességéből előítéletes algoritmusok születhetnek, amelyek arcfelismerő rendszerekbe ágyazva nehezebben ismerik fel a színes bőrű egyéneket [3], álláskeresésnél hátrányosabb helyzetbe hozzák a női munkavállalókat [4] vagy bizonyos népcsoportokat favorizálnak az egészségügyi ellátás mértékének megállapításakor? [5] Ha pedig megpróbálunk előbbre tekinteni, gondoljuk el, milyen erkölcsi dilemmákat vet majd föl, ha a mesterséges intelligenciával felruházott robotok ténylegesen tudnak majd érzelmeket imitálni! [6]

A diverzitás, a felelősségvállalás és az érzékenység lehetnek a humánus megoldások zálogai


A technológiai optimizmus rózsaszín jóslatai vagy a passzív kivárás helyett a Contemplate a problémákkal és jogos aggodalmakkal való szembenézést javasolja, hogy azok mélyebb feltárásával a technológiára vonatkozó új konszenzust alakíthassunk ki. A kezdeményezés szerint a technológia etikai dilemmáit a tudomány és a művészet különböző területeiről érkező szereplőkkel érdemes megvitatni, majd a leszűrt eredményeket és előre látható kockázatokat minél több emberhez eljuttatni, hogy még azelőtt lehessen enyhíteni a negatív hatásokat, hogy túl késő lenne.

A CEU Innovation Lab támogatásával szárnyait bontogató Contemplate nevű kezdeményezés fórumot kíván nyújtani a társadalomtudományok művelőinek, művészeknek, a környezet iránt elkötelezett természetbarátoknak, környezetvédőknek és a technológiák szakértőinek, hogy nyíltan és őszintén vitathassák meg az egyes fejlesztések, termékek és szolgáltatások körüli etikai aggodalmakat. Ezek a viták ösztönözhetik a fejlesztőcégeket, hogy innovációik fenntarthatók és úgymond „jövőbiztosak” legyenek. A „jövőbe látó” vagy „jövőbiztos” technológián olyan innovációt értünk, amely működése közben nem ássa alá az emberi létfeltételeket, és minden tekintetben – kockázatok és súlyos mellékhatások nélkül – az értelmes emberi életet támogatja. A Contemplate olyan konkrét kérdésekről kíván párbeszédet folytatni, hogy melyek az új technológiák enyhíthető kockázatai, hogyan bővíthető a technológiai újítások haszonélvezőinek köre, miként internalizálhatók a technológia káros externáliái (például a felhasználókra áthárított költségeket hogyan kellene visszacsatornázni a kibocsátóhoz), vagy milyen szervezeti döntéshozatal szükséges a fent leírt jövőbiztos technológiákhoz.

Az elmúlt időszakban számos kutató felemelte a szavát az ellen, hogy a mesterséges intelligencia alapú algoritmusok, a robotok és a technológia hihetetlen potenciálját az emberi természetben rejlő gyengeségek kihasználására alkalmazzák, ezzel generálva még több profitot bizonyos vállalatoknak – vagy éppen még több szavazatot bizonyos politikai jelölteknek. A Google korábbi etikai tanácsadója által létrehozott Center for Humane Technology például azon dolgozik, hogy a közösségi média és az okostelefonok pszichológiai megfigyeléseken alapú tervezése a jövőben ne kihasználja, hanem ellensúlyozza az emberi természet esendőségét. Az AI Institute, az AI Now Institute, az Institute for Ethical AI & Machine Learning vagy éppen az Oxfordi Egyetem által nemrég megalapított Institute for Ethics in AI mind-mind azt igyekeznek megmutatni, milyen erkölcsi kérdésekkel és társadalmi hatásokkal jár a mesterséges intelligencia, miként lehet az emberhez méltó lét és szabadság feltételeit egyénileg és közösségileg megőrizni, és miként születhet új konszenzus arra az időszakra, amikor a jelenleginél sokkal nagyobb adathalmazokból dolgozó, intelligensebb algoritmusok és gépek vesznek majd minket körül. A Contemplate ehhez a diskurzushoz kíván hozzájárulni az európai gondolkodásban gyökerező, multidiszciplináris párbeszéddel.

Közös felelősségünk ugyanis, hogy a technológiának csak olyan mértékben engedjük megváltoztatni az embert és környezetét, hogy a következő generációknak is lehetőségük legyen a maguk elképzelését megalkotni a „jó életről”, és ezt szabadon, technológiai kényszerektől mentesen, egy ép és egészséges ökoszférában tudják megélni. Csak így maradhat meg az emberiség eszköztára a „jó élet” jelentéstartalmának megvitatására.

Ahhoz, hogy ez megtörténhessen, sokkal kevésbé piacorientált és sokkal inkább emberi fogalmak mentén kell gondolkodnunk. Humanizálnunk kell a technológiát. Ez a Contemplate missziója.


Hivatkozások

[1] Standage, Tom, „Why global crises are the mother of invention: In 1815 volcanic eruption wreaked havoc around the world. But it led to the birth of the bicycle”, 1843 magazine, Letöltés: 2020. 11. 20.
[2] Sandel, Michael J., The Case against Perfection: Ethics in the Age of Genetic Engineering, Harvard University Press 2007.
[3] Crumpler, William, „The Problem of Bias in Facial Recognition”, CSIS, Letöltés: 2020. 11. 20.
[4] „5 Examples of Biased Artificial Intelligence”, Logically, Letöltés: 2020. 11. 20.
[5] Kantarci, Atakan, „Bias in AI: What it is, Types & Examples, How & Tools to fix it”, AIMultiple, Letöltés: 2020. 11. 20.
[6] Somers, Meredith, „Emotion AI, exlapined”, MIT Sloan, Letöltés: 2020. 11. 20.