Tutkimus paljastaa: Olemme vaarassa menettää yhden ikkunan tekoälyn toimintaan
Tässä varoitus, joka kannattaa kuunnella. Keskenään hurjaa kisaa käyvät tekoälyjätit nimittäin yhdistivät voimansa tutkimukseen, jonka sanoma on selvä: olemme vaarassa menettää kyvyn ymmärtää ja siten hallita suuria kielimalleja. Pari päivää sitten julkaistussa artikkelissa ovat olleet mukana Googlen, OpenAIn, Metan ja Anthropicin johtavat tekoälytutkijat.
Mitä tutkimuksessa todetaan? Tässä tiivistys 👇
👉 Tekoälyjen kehittyessä entistä monimutkaisemmiksi vaarana on, että menetämme mahdollisuuden ymmärtää koneiden tapaa muodostaa johtopäätöksiä.
👉 Kielimallit “ajattelevat ääneen” luonnollisella kielellä. Ihminen voi siten tältä osin ymmärtää ja analysoida kielimallien tapaa antaa vastauksia. Siten ihmisen on mahdollista puuttua peliin, jos joku menee pahasti mönkään (jos malli esimerkiksi muuttuu rasistiseksi tai alkaa toimia rikollisesti).
👉 Tutkimuksen mukaan olemme ehkä lähestymässä käännekohtaa. Tekoälyt alkavat olla niin monimutkaisia, että ne saattavat alkaa päätellä tavoilla, joita me ihmiset emme ymmärrä. Uhkana on myös, että koneet alkavat piilottaa ihmisiltä osia päättelyketjuistaan.
👉 Jos menetämme mahdollisuuden ymmärtää ja tarkkailla tekoälyn päättelyä, koneiden kyky manipuloida ja kontrolloida meitä kasvaa vaarallisesti.
💡 Tutkijat kehottavat kehittämään entisestään tapoja valvoa tekoälyn ajatteluketjua ja vahvistamaan turvatoimia ennen kuin etenemme koneiden kanssa nykyistä pidemmälle.
Tutkijat huomauttavat, että koneen päättelyketjun valvonta on vain yksi turvakeino. He suosittelevat, että etenkin tulevaisuuden tekoälyagenteilla tulisi olla useita turvakerroksia.
‼️Teknologiaa ei tule kehittää nopeammin kuin mitä pystymme rakentamaan keinoja sen valvomiseen.
Toivoisin todella, että vastuullisuus ja turvallisuus nousisivat tärkeämmäksi kuin nopeus, tehokkuus ja voitontavoittelu.
