Създаването на свръхчовешки изкуствен интелект ни доведе на пътя към изчезване. Все още не е късно да сменим курса според двама от най-ранните изследователи в тази област в книгата-призив към човечеството.

През 2023 г. стотици изтъкнати учени в областта на изкуствения интелект подписаха отворено писмо, в което предупреждават, че ИИ може да доведе до изчезването на човечеството. Оттогава надпреварата в областта на изкуствения интелект само се засили. Компании и държави се надпреварват да създадат машини, които ще бъдат по-умни от всеки човек – а светът е ужасно неподготвен за това, което ще последва.

В продължение на десетилетия двама от подписалите писмото – Елиезер Юдковски и Нейт Соарес – изучават как ще мислят, ще се държат и ще преследват целите си интелектите, които са по-умни от човека. Изследванията им сочат, че достатъчно умните ИИ ще развият собствени цели, които ще доведат до конфликт с нас; и че ако се стигне до конфликт, изкуственият свръхинтелект ще ни унищожи. Състезанието дори няма да е оспорвано.

Как една машина със свръхинтелект би могла да унищожи целия ни биологичен вид? Защо би искала да го направи? Би ли искала изобщо нещо? В тази много важна книга Юдковски и Соарес разглеждат теорията и доказателствата, представят един възможен сценарий за изчезване и обясняват какво е необходимо, за да оцелее човечеството.

Светът се състезава да създаде нещо наистина ново под слънцето. И ако някой го развие – всички ще умрем.