Újabb aggodalmak a mesterséges intelligencia körül: egyre több a felmondás, oda biztonságunk?

Az OpenAI-tól nemrég távozott alkalmazottak közül többen is biztonsági aggályokra hivatkozva hagyták el a vállalatot. Ezek az aggályok különösen Leopold Aschenbrenner esetében váltak nyilvánvalóvá, aki egy 165 oldalas értekezést publikált az AI forradalomról. Aschenbrenner, aki az OpenAI úgynevezett szuperalignációs csapatának volt tagja, azt állítja, hogy kirúgását információszivárogtatás vádjával indokolták, bár ő ezt vitatja. Az értekezés nem tartalmazza az OpenAI-ról szóló érzékeny információkat; inkább általános ismereteken és spekuláción alapul.

Aschenbrenner esszéje a mesterséges általános intelligencia (AGI) fejlődési kilátásait és annak potenciális hatásait elemzi. A szerző szerint a jelenlegi trendek alapján az AGI fejlődése gyorsabb lehet, mint ahogy azt sokan várják,

és előrejelzi írásában, hogy 2027-re az AI modellek képesek lehetnek emberi szintű kutatói és mérnöki feladatok elvégzésére.

Ez az előrelépés jelentős gazdasági és biztonsági következményekkel járhat, hiszen dollár milliárdokat invesztálnak olyan infrastruktúrába, amely támogatjani tudja ezeket a rendszereket. A dokumentum kiemeli továbbá a technikai és etikai kihívásokat, amelyekkel szembe kell néznünk az embernél intelligensebb AI rendszerek irányítása során. Aschenbrenner szerint fontos lesz kezelni ezeket a kihívásokat annak érdekében, hogy elkerüljük a katasztrofális következményeket.

Végül Aschenbrenner arra hívja fel a figyelmet, hogy csak kevesen rendelkeznek valódi belátással az AI iparág jövőbeli fejlődését illetően. Ő maga is úgy véli, hogy az AI jelentős változásokat fog előidézni több területen is, beleértve az ipart és a nemzetbiztonságot. Az esszé összefoglalása során ChatGPT röviden bemutatta Aschenbrenner főbb jóslatait és megfigyeléseit.