A mesterségesintelligencia-vállalat tőzsdei bevezetési dokumentuma figyelmeztet az egyre autonómabb rendszerek lehetséges káros hatásaira, valamint a pénzügyi és szabályozási kockázatokra.
Az elszabadult mesterségesintelligencia-rendszerek, a kibertámadások, valamint annak lehetősége, hogy a mesterséges intelligenciát veszélyes fegyverek kifejlesztésére használják, azok közé a kockázatok közé tartoznak, amelyeket az Anthropic a befektetők előtt feltárt, miközben a tőzsdére lépésére készül.
HIRDETÉS
HIRDETÉS
Az Anthropic pénzügyi helyzetét ismertető 335 oldalas dokumentumból, amely a vezetői juttatásokat, az osztalékpolitikát és más részleteket is tartalmazza, 93 oldal foglalkozik a „kockázati tényezőkkel”, vagyis mindazzal, ami veszélyeztetheti a leendő részvényesek befektetéseit. Összehasonlításképpen a rivális SpaceX felsorolt kockázati tényezői a több mint 250 oldalból mindössze 38-at tesznek ki.
Ezeket a közzétételeket az IPO-folyamat részeként írják elő, hogy a leendő befektetők pontosabb képet kapjanak azokról a kockázatokról, amelyekkel a vállalat részvényeinek megvásárlásával szembesülnek.
A befektetőknek szóló bemutatkozásában az Anthropic saját nyilvános részvénykibocsátását olyan lépésként mutatja be, amely segíthet mérsékelni azokat a kockázatokat, amelyekről úgy véli, hogy a mesterséges intelligencia jelenti őket.
„Az MI létrehozása az emberi gondolkodás erejének megszelídítését jelenti, és bármi, ami ennyire hatalmas, a rosszra éppúgy felhasználható, mint a jóra” – írják a vállalat alapítói a leendő részvényeseknek szóló levélben az IPO-beadványban. „Az Anthropic mélyen értékalapú szervezet, amelyet nagyrészt azért hoztak létre, hogy segítse a világot az MI előnyeinek kiaknázásában, miközben elkerüli annak veszélyeit.”
A kockázatok azonban számosak. A hétköznapi problémáktól – például attól, hogy esetleg nem tudja megtartani kulcsemberét, vagy nehézségekbe ütközik a szabályozói akadályok leküzdésében – egészen a kibertámadásokban való érintettségig és a veszélyes dezinformáció terjedéséig terjednek.
Íme néhány a részletesen bemutatott kockázatok közül:
A technológia gyors fejlődése
Az Anthropic szerint elképzelhető, hogy a modelljei olyan gyorsan fejlődnek, hogy a cég nem lesz képes megfelelő biztonsági intézkedéseket bevezetni, „ami növelheti a biztonsági incidensek, a hatósági beavatkozás vagy a reputációs károk valószínűségét, és kedvezőtlenül hathat üzletmenetünkre”.
Az Anthropic vezérigazgatója, Dario Amodei szeptemberben arra figyelmeztetett, hogy fél éven–egy éven belül az MI képes lehet olyan ügynökraj irányítására, amely átveheti az uralmat az egész internet felett. A figyelmeztetés – és most az Anthropic részvényértékesítési lépése – az iparágon belül és kívül is egyre nagyobb aggodalmak közepette hangzott el, mivel a rendszerek egyre nagyobb teljesítményre képesek, olyan problémákat is meg tudnak oldani, amelyek túlmutatnak az emberi kapacitáson, ugyanakkor önállóan is végrehajthatnak káros feladatokat.
Ahogy az MI-rendszerek „egyre autonómabbá válnak, és egyre nagyobb horderejű döntéseket képesek hozni kevesebb emberi felügyelet mellett”, az SEC-hez benyújtott dokumentum szerint fennáll a veszélye annak, hogy az ilyen rendszerek „önállóan és nagy léptékben hajtanak végre ártalmas cselekedeteket emberi beavatkozás nélkül”.
„Még ha a saját modelljeink nem is okoznak ilyen károkat, bármely élvonalbeli MI-hez kapcsolódó jelentős biztonsági incidens széles körű reputációs károkat okozhat az MI-iparágnak, társadalmi ellenreakciót válthat ki, valamint átfogó szabályozói lépéseket, amelyek kedvezőtlenül hatnának üzletvitelünkre” – írja az Anthropic.
Most, hogy az MI-modellek maguk is hozzájárulnak az Anthropic kutatás-fejlesztéséhez, fennáll annak a lehetősége, hogy a mesterséges intelligencia fejlődése „túllép azon a szinten, ahol képesek vagyunk kiértékelni és biztonságosan működtetni az új modelleket” – áll a beadványban. Ez a dokumentum szerint szintén kedvezőtlen hatással lehet az Anthropic üzletére.
Rosszindulatú szereplők káoszt okozhatnak a technológiával
A beadvány olyan aggodalmakat részletez, amelyek szerint a fejlett MI-rendszerek, ha nem látják el őket elegendő biztosítékkal és felügyelettel, „katasztrofális vagy egzisztenciális kockázatot jelenthetnek az emberiségre, különösen, ha ezeket a rendszereket rossz célokra használják, lemásolják, felfegyverzik, vagy nagyfokú autonómiával hagyják működni”.
A cég szerint akkor is kár érheti, ha a rosszindulatú felhasználás okoz károkat, „vagy ha a modelljeinkre épített védőkorlátok vagy biztonsági intézkedések nem tudják megakadályozni az ilyen visszaéléseket”.
Az Anthropic felvázolja annak lehetőségét, hogy rosszindulatú szereplők MI-modelleket használjanak vegyi fegyverek előállítására, vagy tekintélyelvű vezetők forduljanak a technológiához állampolgáraik elnyomása érdekében. A vállalat szeptemberben hozta nyilvánosságra, hogy megakadályozta, hogy MI-modelljeit rossz célokra, például kibertámadásokra, megfigyelésre, illetve olyan kutatásra használják, amely biológiai fegyverek kifejlesztéséhez vezethetett volna.
A vállalat szembesülhet a feldolgozási kapacitás korlátaival
A számítási kapacitás – vagyis az a számítási erőforrás, amelyre az MI-modellek felépítéséhez, teszteléséhez és továbbfejlesztéséhez szükség van – drága, és nagy a kereslet iránta. Az Anthropic rámutat, hogy ha nem tud elegendő számítási kapacitást biztosítani, vagy ha „nem tudjuk hatékonyan elosztani a compute-erőforrásainkat a különböző feladatok között, előfordulhat, hogy nem tudunk olyan modelleket tanítani, amelyek versenyképesek maradnak versenytársaink megoldásaival, vagy nem tudjuk megfelelően kiszolgálni ügyfeleinket”.
Az Anthropic a helyi közösségek adatközpontokkal szembeni ellenállását is olyan tényezőként említi, amely kockázatot jelenthet üzletvitelére. Az adatközpont-fejlesztések „nyilvános vitát és szabályozói vizsgálatot váltottak ki a környezeti hatásokkal, a föld- és vízhasználattal, valamint a korlátozott energiaforrások elosztásával kapcsolatban” – áll a dokumentumban, hozzátéve, hogy ha a szabályozó hatóságok emiatt új előírásokat vagy díjakat vezetnek be, az a vállalat működési lehetőségeit is beszűkítheti.
Ezenfelül a cég bevételeinek nagy részéért néhány nagy ügyfél, köztük a SpaceX és a Microsoft, valamint az értékesítési csatornák felelnek. Ez azt jelenti, hogy ha akár csak egy nagy ügyfél úgy dönt, hogy visszafogja a megrendeléseket – vagy teljesen szakít a céggel –, az Anthropic szerint ez jelentősen ronthatja kilátásait és pénzügyi helyzetét.
A kockázatok mérséklése
Bizonyos értelemben az MI hatalmas kockázata és ugyanilyen hatalmas potenciálja jelenti az Anthropic fő vonzerejét. A vállalat igyekszik magát felelős MI-cégként pozicionálni, és üzleti ügyfeleit azzal próbálja megnyerni, hogy a biztonságra és a felelős felhasználásra helyezi a hangsúlyt.
„Úgy véljük, hogy az élvonalbeli MI-vállalatoknak be kell fektetniük a biztonságba és az »összehangolásba«, hogy elősegítsék e technológia felelős terjedését” – áll a beadványban.
Brian Mulberry, a Zacks Investment Research vezető piaci stratégája szerint az IPO-ügyleteknek „nagyon egyértelműen” fel kell tárniuk, milyen kockázatokkal szembesülnek azok, akik pénzüket egy frissen tőzsdére vitt részvénybe fektetnek.
„Az egyik dolog, ami nagyszerűvé teszi a hazai tőkepiacainkat, az az átláthatóság mértéke, amelyhez egy nyilvánosan jegyzett amerikai tőzsdei vállalatnak tartania kell magát: világosan fel kell vázolnia ezeket a kockázatokat, hogy az emberek megértsék, mit vállalnak, ha részt kívánnak venni abban, hogy nehezen megkeresett pénzükkel finanszírozzanak egy ilyen típusú ügyletet” – mondta.