HIGH.FI on myös Androidille ja iPhonelle!

Tekoälyhuoli kasvaa: Alan huippunimet vaativat kehityksen hidastamista turvallisuuden vuoksi

Julkaistu:

Tekoälyalan sisäinen huoli kehityksen vauhdista on noussut uudelle tasolle, kun useat alan kärkinimet vaativat tietoista hidastamista. Anthropicin toimitusjohtaja Dario Amodei varoittaa, että ilman jarrua kehittyneimmät tekoälymallit voivat jo lähikuukausina saavuttaa kriittisen tason, jossa järjestelmät kykenevät esimerkiksi ottamaan haltuunsa laajoja osia internetistä ja aiheuttamaan satojen miljardien vahingot. Hänen mukaansa kehitykselle on annettava aikaa, jotta turvatoimet ja valvonta ehtivät mukaan.

Amodei esittelee usean vaiheen suunnitelman, jossa keskeistä on riippumattomien valvojien pääsy yhtiöiden sisäisiin järjestelmiin työntekijän tasoisilla oikeuksilla. Näiden tulisi valvoa turvallisuuskäytäntöjä, raportoida ongelmista ja tarkastaa mallien koulutusta. Hän peräänkuuluttaa myös kilpailijoiden välistä koordinaatiota ja hallitusten tukea, jotta yhteiset turvallisuusstandardit olisivat mahdollisia ilman kilpailulakien rikkomista, sekä vaikeaa mutta välttämätöntä yhteistyötä myös autoritaaristen valtioiden kanssa.

Amodein linja saa näkyvää tukea OpenAI:n toimitusjohtaja Sam Altmanilta ja xAI:n johtajalta Elon Muskilta, jotka molemmat korostavat tarvetta hidastaa nimenomaan kehittyneimpien mallien kehitystä. OpenAI ilmoittaa valmistelevansa omaa järjestelyä riippumattomille valvojille. Taustalla on myös työntekijöiden protesti: useat Anthropicin tutkijat ovat irtisanoutuneet, varoittaen, että kilpajuoksu kohti itseään parantavaa superälyä voi muodostaa eksistentiaalisen uhan koko ihmiskunnalle.
Näytä aiheesta lisää otsikoita
Tämä on automaattisesti luotu uutiskooste, jonka lähteenä on käytetty lukuisia uutisartikkeleita. Artikkelin ohesta löytyvät kaikki uutisen luomiseen käytetyt lähteet, joissa aiheesta kerrotaan laajemmin.