Az amerikai AAAI (Association for the Advancement of Artificial Intelligence) vezetősége 2009-ben azt vetette fel, hogy ugyanúgy meg kellene vizsgálni a mesterséges intelligencia megjelenésének várható következményeit, mint ahogy ezt 1975-ben a biológusok tették, amikor nyilvánvalóvá vált, hogy lehetséges a DNS-t módosítani. Ennek már csak azért is ideje lenne, mert a jelek szerint még az is elképzelhető, hogy az információs forradalmat követő „negyedik hullám” a mesterséges intelligencia forradalma lesz.
Ami mintha arra utalna, hogy elkezdenek feltorlódni ezek a bizonyos hullámok. Elvégre az előző nagy, IT-alapú változás még ki sem teljesedett, és jó kérdés, hogy mostantól kezdve mindig így fog-e történni, és ezért a jövőben is lesz-e még értelme egymástól időben elkülönülő forradalmakról beszélni. De emellett rákérdezhetünk arra is, hogy milyen lesz vagy legalábbis lehet az a bizonyos mesterséges intelligencia. Ez ugyanis korántsem mindegy.Nick Bostrom oxfordi filozófus ugyanis arra mutat rá, hogy „az emberek ritkán hajlandóak rabszolgaságba vetni magukat, ám semmi elképzelhetetlen nincs abban, hogy egy szuperintelligencia célja az emberiség vagy éppen egy adott ember szolgálata legyen”. És ugyanígy az is elképzelhető, hogy valami teljességgel önkényes és számunkra ostoba célt tűzzön ki magának (mint amilyen például „annyi gémkapcsot előállítani, amennyit csak lehetséges”). Másfelől „egy mesterséges intelligencia kognitív architektúrája... lehet, hogy másmilyen [lesz], mint az emberé. Talán könnyen elkerül egyes emberi hibákat és tévedéseket, miközben ki van téve olyanoknak, melyek nekünk nem okoznak gondot”.
Ha viszont Bostromnak igaza van – és én úgy gondolom, hogy ez a helyzet - , akkor érdekes problémával találjuk szembe magunkat. A földönkívüli civilizációk kutatásával kapcsolatban Nicholas Rescher amerikai filozófus arra hívta fel a figyelmet, hogy még akkor sem biztos, hogy „azok” fejlettebbek lesznek nálunk, ha jóval régebben léteznek. Két ember zongorajátékát össze lehet hasonlítani (elvégre ugyanazt csinálják); azt viszont nem tudjuk megmondani, hogy egy kínai tus festmény hogyan viszonyul fekete alakos görög vázához, és melyik a „jobb”, „szebb”, „fejlettebb”, és így tovább. Vagyis hacsak fel nem tételezzük, hogy minden civilizáció kizárólag ugyanazt fejlődési utat futhatja be (márpedig ez nem tűnik védhető álláspontnak), úgy nincs értelme arról beszélni, hogy melyik jár előrébb a másiknál. És ugyanígy: hacsak nem ugyanolyan lesz a jövendőbeli mesterséges értelem intelligenciája, mint a miénk, egyáltalán nem biztos, hogy lesz értelme összehasonlítást tenni, és azt mondani, hogy fejlettebb nálunk. Ugyanúgy teljesen nyitott kérdés tehát az is, hogy mire számíthatunk vele kapcsolatban, mint ahogy egy hipotetikus földönkívüli civilizációról sem lehet előzetesen, „látatlanban” eldönteni, hogy úgy lépne-e majd fel velünk, mint az európaiak az indiánokkal szemben; vagy mondjuk úgy viselkedne, mint a szerető szülő gyermekével.
Vagy pedig – elvégre ez is elképzelhető – egyszerűen nem érdekelnénk ezt a bizonyos szuperintelligenciát, mert annyira mások a céljai és értékei, mint a mieink.
