«У діях штучного інтелекту помітили схильність до поведінки, яку можна було би охарактеризувати словами «жадібність» і «агресія», – сказав британському порталу «Wired» Джоель З. Лейбо.

Науковець є співтворцем системи штучного інтелекту «DeepMind AI» для «Google». Донедавна вона вміла, зокрема, розв’язувати рівняння, однак теперішні дослідження виявили, що вона проявляє агресію, коли знаходиться в програшній позиції.

Науковці дійшли до тривожних висновків на підставі простої гри, яку створили. Полягає вона у збиранні яблук. «DeepMind» поставили навпроти іншого віртуального суперника. Дві системи повинні були збирати яблука, які з’являлися на екрані.

Поки фруктів не бракувало, рахунок був рівним. Потім системам дали можливість використовувати віртуальну зброю і зменшили кількість фруктів. Системи, не вагаючись, застосовували насилля, аби досягти мети.

«Жадібність мотивувала системи до ліквідації супротивника», – сказав Джоель З. Лейбо з «Google».

Дослідників така поведінка систем шокувала. Раніше їх тестували в грі, де вони повинні були співпрацювати для досягнення спільної мети. Тоді проявів суперництва не помітили. Збираючи яблука, вони також не поводилися агресивно.

Лише коли штучним інтелектам дали шанс позбутися супротивника, вони скористалися цією можливістю.

Джерело: tvp.info