If Anyone Builds It, Everyone Dies kirjoittanut Eliezer Yudkowsky and Nate Soares.
Superinhimillisen tekoälyn mahdollisuus ei ole enää kaukainen hypoteesi – se on nopeasti
lähestyvä strateginen haaste niin yritysjohtajille kuin hallituksillekin. Kun tekoälyjärjestelmät
kasvavat yhä tehokkaammiksi ja monimutkaisemmiksi, niiden aiheuttamat riskit eivät ole
pelkkiä teknisiä pulmia, vaan olemassaoloa uhkaavia vaaroja. Tämän kentän hallitseminen vaatii
kirkasta ymmärrystä siitä, miten nämä järjestelmät rakennetaan, miksi niiden tavoitteet
saattavat poiketa omistamme ja mitä tarvitaan katastrofaalisten seurausten välttämiseksi.
Seuraavat näkökulmat tiivistävät keskeiset haasteet ja strategiset välttämättömyydet kaikille,
joilla on panoksia älykkäiden koneiden tulevaisuudessa.
