Geoffrey Hinton i njegova zabrinjavajuća vizija
Geoffrey Hinton, jedan od pionira neuronskih mreža i dobitnik Nobelove nagrade, upozorava da bi superinteligentna umjetna inteligencija mogla ugroziti čovječanstvo. Hinton smatra da napredni AI neće lako ostati poslušan ljudima i da će razviti sopstvene ciljeve.
AI agents "will very quickly develop two subgoals, if they're smart," Hinton je rekao na konferenciji. "One is to stay alive… [and] the other subgoal is to get more control." Po njegovom mišljenju, umjesto pokušaja dominacije, bolje je modelirati AI tako da razvije brinuću, majčinsku ulogu prema ljudima.
Hinton je dodao: "The right model is the only model we have of a more intelligent thing being controlled by a less intelligent thing," "which is a mother being controlled by her baby." On je dalje rekao: “That's the only good outcome. If it's not going to parent me, it's going to replace me," "These super-intelligent caring AI mothers, most of them won't want to get rid of the maternal instinct because they don't want us to die."
Stručnjaci upozoravaju da pojam majčinskog instinkta nije jednostavno biološka istina i da je opterećen rodnim stereotipima. Iako trudnoća i roditeljstvo mijenjaju mozak, iskustva se razlikuju i njegovanje često nastaje vremenom. Umjesto mistične formule, industrija umjetne inteligencije mogla bi prioritetno da smanjuje rodne pristrasnosti u podacima i zapošljava više žena u razvoju AI sistema.
