Ще якихось 5 років тому людству штучний інтелект видавався винаходом майбутнього. Проте на сьогоднішній день він уже міцно увійшов у наше повсякденне життя. Більше того, великі мовні моделі та інші системи штучного інтелекту навчилися дурити. Про це, до речі, письменники-фантасти попереджали багато десятиліть.
Про те, що штучний інтелект навчився обманювати людей, заявили вчені Массачусетського технологічного інституту.
Вони проаналізували дані деяких моделей ІІ і виявили, що комп'ютери вміють блефувати в покері, обманювати людей і використовувати певні хитрощі, щоб отримати перевагу у фінансових переговорах.
Про це повідомляє Yahoo News.
"Системи штучного інтелекту вже здатні обманювати людей. Обман - це систематичне спонукання інших до помилкових переконань для досягнення будь-якого результату, відмінного від істини. Великі мовні моделі та інші системи штучного інтелекту вже навчилися під час навчання здатності обманювати за допомогою таких методів, як маніпуляція, підлабузництво і шахрайство", - пишуть автори дослідження.
За словами Пітера Парка, дослідника з Масачусетського технологічного інституту, який спеціалізується на штучному інтелекті, на відміну від традиційного програмного забезпечення, програми ІІ не кодуються, а розробляються за допомогою процесу, аналогічного до селекційного розведення рослин. При цьому поведінка, що здається передбачуваною і контрольованою, може швидко стати непередбачуваною за своєю природою.
На думку вчених, якщо не усунути неполадки, то якось штучний інтелект здійснить шахрайство або підтасує результати виборів. У гіршому випадку, попереджають вони, ми можемо уявити надрозумний ІІ, який прагне взяти під контроль суспільство, що призведе до усунення людей від влади або навіть до зникнення людства.
До речі, розробники поки що не розуміють, через що в ІІ виникає "небажана поведінка", така, як обман. Але є припущення.
"Але, взагалі кажучи, ми вважаємо, що обман ІІ виникає тому, що стратегія, заснована на обмані, виявилася найкращим способом добре виконати це завдання навчання ІІ. Обман допомагає їм досягти своїх цілей", - кажуть вони.
Дослідники попереджають, що люди зараз не мають необхідних засобів захисту, щоб запобігти виходу ІІ з-під контролю. Більше того, загроза обману з боку штучного інтелекту лише збільшуватиметься в міру розвитку технологій.
Раніше повідомлялося, що вчені назвали причину масового вимирання динозаврів: чому зникли рептилії.
Нагадаємо, що вчені виявили унікальні ембріони динозаврів.
