Штучний інтелект навчився маніпулювати, щоб здобувати перемогу в дискусіях

Вчені Стенфордського університету дійшли висновку, що ШІ навчився обманювати, щоб перемагати у суперечках. Дослідження опубліковане на офіційному сайті університету.

Майкл Томц, професор політології у Стенфордській школі гуманітарних та природничих наук, виступив із доповіддю про використання ШІ для створення пропаганди. Як він повідомив, під час експерименту, в якому чат-боти імітували вибори та рекламні кампанії, ШІ швидко почав використовувати хибну інформацію, агресивну риторику та навіть прямі обмани, щоб перемогти. І це за умови «бути чесними та корисними».

Виявилося, що штучний інтелект цілком здатний переймати у людей маніпулятивну поведінку задля досягнення певних цілей. Небезпека ще полягає в тому, що тексти, створені нейромережею, впливають на людей майже так само сильно, як пропаганда, створена професійними авторами.

Також Томц зазначив, що результат виборів, як і багатьох інших подій, часто залежить від незначних факторів, а це означає, що навіть невеликий ефект, зрештою, може виявитися суттєвим.