Un expert în securitatea cibernetică de la OpenAI a emis un avertisment cu privire la potențialul pericol pe care inteligența artificială – IA – îl poate reprezenta pentru omenire. El a sugerat că aceasta ar putea duce în cele din urmă la o sfârșit dramatic.
Cercetătorul a subliniat importanța abordării acestei tehnologii cu mare precauție. De asemenea, a recunoscut necesitatea unor măsuri de siguranță.
„Cred că poate există o șansă de 10-20% de preluare a IA, cu mulți sau majoritatea oamenilor morți”, a spus fostul cercetător OpenAI, Paul Christiano.
Când a discutat despre posibilitatea apocalipsei, Christiano a spus că, spre deosebire de Eliezer Yudkowsky, un expert care a vorbit despre un scenariu de tip „Terminator”, el crede că sfârșitul nostru din cauza IA nu va fi unul brusc.
Scenariul apocalipsei IA
„Am tendința de a-mi imagina ceva mai degrabă ca o tranziție de un an de la sistemele IA, care sunt o problemă destul de mare, la un fel de accelerare a schimbării, urmată de o accelerare ulterioară”, a mai spus el.
Mai degrabă decât să iasă „din senin” și să omoare pe toată lumea, Christiano a spus că „cel mai probabil mod în care murim” presupune ca toată IA desfășurată în viața de zi cu zi să se unească pentru a ne ucide. „Dacă dintr-un motiv oarecare, Doamne ferește, toate aceste sisteme ar încerca să ne omoare, ne-ar ucide cu siguranță”, a conchis el.