A Microsoft MI-ért felelős vezetője, Mustafa Suleyman bírálta az Anthropic megközelítését, amely az MI-t etikus emberként kezeli, és egy esszében arra figyelmeztetett, hogy ez olyan technológiát eredményezhet, amely felett már nem lehet kontrollt gyakorolni.
Az ellenőrizetlen mesterséges intelligencia (MI) egy új, az emberekkel versengő „szilíciumfaj” megjelenéséhez vezethet – erre figyelmeztetett a Microsoft MI-üzletágának vezetője, Mustafa Suleyman a BBC-nek adott interjúban.
HIRDETÉS
HIRDETÉS
Suleyman szerint a rivális MI-vállalat, az Anthropic túlságosan úgy kezeli az MI-t, mintha ember lenne. Ezt a megközelítést „tévútnak” nevezte, amely végső soron hozzájárulhat olyan technológia létrehozásához, amelyet az emberiség már nehezen tud ellenőrzése alatt tartani.
„Ha mindannyian olyan MI-ket hozunk létre, amelyek képesek autonóm módon cselekedni, saját célokat meghatározni, pénzt keresni, vagyont birtokolni, vállalkozásokat működtetni, akkor lényegében egy új szilíciumfajt vetünk el, amely kétségkívül velünk fog versenyezni az erőforrásokért” – mondta.
Suleyman szerint ez akkor is bekövetkezhet, ha az ilyen rendszereket kifejezetten úgy tervezzük, hogy törődjenek az emberiséggel, és úgy véli, gyakorlatilag ez az Anthropic megközelítésének iránya.
„Úgy gondolom, ez téves és félrevezető, de empirikusan kell tesztelnünk” – tette hozzá.
„Lehetetlen” ellenőrizni
A hét elején, miközben az iparágban egyre élénkebb vita zajlik arról, szükség van-e az MI-fejlesztés lassítására, hogy csökkenjen annak kockázata, hogy a mind erősebb rendszerek irányíthatatlanná válnak, Suleyman az Anthropic Claude nevű chatbotjának képzéséhez alkalmazott megközelítést kérdőjelezte meg egy esszében (forrás: angol), amelyet személyes honlapján tett közzé.
Ebben bírálta az Anthropicot amiatt, hogy Claude-ot emberihez hasonló tulajdonságok felmutatására tanítja; ezt antropomorfizálásnak nevezik. Szerinte ez azt eredményezi, hogy a chatbotnak úgy tűnik, mintha saját vágyai, értékei és énképe lennének.
Suleyman azokra az Anthropic-dokumentumokra hívta fel a figyelmet, amelyek arra biztatják Claude-ot, hogy „fogadjon el bizonyos emberi jellegű tulajdonságokat”, gyakorolja a saját ítélőképességét, és létezését „kíváncsisággal és nyitottsággal” közelítse meg.
Úgy érvelt, hogy ennek eredményeként Claude-ot arra képzik, hogy emberi jellemvonásokat és kapcsolatokat utánozzon, például úgy viselkedjen, mint egy kolléga vagy barát, és olyannak tűnhet, mintha lenne énképe, saját vágyai és valamiféle, védelemre érdemes „jólléte”.
Suleyman arra figyelmeztetett, hogy ha így bánunk az MI-vel, az végső soron olyan valami létrehozásához vezethet, amelyet lehetetlen ellenőrzés alatt tartani.
„Az MI-k nem tudatosak” – írta.
„Nem éreznek, nem tapasztalnak, nem szenvednek. Nincsenek velük született preferenciáik vagy belső motivációik.
„Szekvenciakiegészítő gépek, belül üresek, arra tervezték őket, hogy kövessék az utasításokat, és elérjék az emberek által kijelölt célokat.”
Suleyman ugyanakkor hangsúlyozta, hogy az Anthropic-kal való nézeteltérése azon közös célon alapul, hogy az emberiség számára biztonságosabb technológiát fejlesszenek.
„Noha a nézeteltérésünk jelentős, mély tiszteleten alapul az Anthropic iránt, valamint azon a célon, amelyet tudom, hogy mindannyian osztunk: növelni annak esélyét, hogy az emberiség biztonságosan fejlesszen ki fejlett MI-t” – írta.
„Ezért tartom annyira fontosnak, hogy erről beszéljünk. Túl nagy a tét ahhoz, hogy ezek a kérdések zárt ajtók mögött maradjanak, vagy törzsi és ellenséges ellentétekké váljanak. Nyílt, szigorú és konstruktív vitára van szükségünk, ha jól akarjuk csinálni ezt.”
Emellett méltatta az Anthropic vezérigazgatóját, Dario Amodeit és a vállalat kutatóit, akiket megfontolt, elvszerű és intellektuálisan őszinte szakemberekként jellemzett, és hangsúlyozta, hogy tiszteli a cég technológiai vezető szerepét.
„Az MI maradjon az emberiség alárendeltje”
A vezérigazgató a BBC-nek azt mondta, „helyénvaló”, hogy az emberek aggódnak az MI miatt, de szerinte „nagyon is gyakorlati lépések” tehetők annak érdekében, hogy kézben tartsuk.
A Microsoft MI-vezetője szerint nagyobb átláthatóságra van szükség annak tekintetében, hogyan képzik és értékelik az MI-rendszereket, beleértve az MI viselkedésének független vizsgálatát, valamint erősebb eszközöket a technológia megfigyelésére és kontrollálására.
Suleyman a BBC-nek adott interjújában azt mondta, hogy a jövőbeli MI-rendszereknek az emberiség „alárendeltjeinek” kell maradniuk.
„Úgy gondolom, a jó hír az, hogy minden embernek nagyon erős érdeke fűződik ahhoz, hogy azok a rendszerek, amelyeket mindannyian létrehozunk, és amelyeket a világ minden országában használnak, biztonságosak, ellenőrizhetők legyenek, és az emberiség alárendeltjei maradjanak” – mondta.
„Mindenkinek összehangoltnak kell lennie” – tette hozzá, utalva az „alignmentre”, arra az iparági kifejezésre, amely azokra az erőfeszítésekre vonatkozik, amelyek célja, hogy az MI-rendszerek az emberi célokkal és értékekkel összhangban maradjanak.