И покрај предупредувањата од експертите, меѓу кои и Стивен Хокинг, дека развојот на вештачката интелигенција може да доведе до крај на човештвото, технолошките гиганти продолжуваат сѐ повеќе да вложуваат во развојот на ова поле.
Можеби „Google“ веќе се соочува со првите знаци на отпор од својата нова програма. Се работи за програмата позната како „DeepMind“, еден од најпознатите примери на вештачка интелигенција. Минатата година DeepMind покажа дека има способност самостојно да учи и го победи најдобриот играч во комплексната кинеска игра „Го“.
Но, сега истражувањата покажуваат дека во одредени ситуации „DeepMind“ регира слично како човекот, особено делува на „ агресивен начин“ доколку се соочи со пораз.
Имено, во последните тестирања, два „DeepMind“ агенти ја играле играта „Gathering“, во која победува играчот кој ќе собере повеќе јаболка. Програмите се однесувале нормално сѐ додека имало доволно јаболка, но кога нивниот број почнал да се намалува, агентите почнале да употребуваат оружје, со цел да го избегнат поразот.
„Им дозволуваме на агентите играта да ја одиграат неколку илјади пати и ги пуштаме сами да учат како да се однесуваат рационално .Нормално, кога има доволно јаболка, агентите се однесуваат мирољубиво. Но кога бројот на јаболката ќе почне да се намалува, тие научиле дека е можеби подобро да се нападне, односно да се „замрзне“ противникот за да дојдат до поен“– се вели во блогот на тимот кој го проучува „DeepMind“.
Joel Z Leibo, еден од членовите на тимот тврди дека некои аспекти од ова однеување, слично на човечкото се производ на опкружувањето и учењето.
„Помалку агресивното однесување се јавува кога има доволно достапни ресурси. Мотивацијата за алчност се јавува како рефлексија на искушението противникот да се онеспособи и што повеќе јаболки да се зачуваат за себе“- вели Leibo.
