Инженерът на Google открива признаци на съзнание в изкуствения интелект LaMDA

Блейк Леймън, инженер на Google казал публикация на The Washington Post, че системата изкуствен интелект LaMDA започна да показва признаци на съзнание.

Ламон съобщи за това на своите началници, но твърденията му бяха отхвърлени, така че той стана публично достояние. За разкриване на поверителни данни инженерът вече е отстранен и изпратен в административен отпуск.

LaMDA (Language Model for Dialogue Applications) е система за създаване на чатботове, която симулира комуникация чрез анализиране на трилиони фрази от Интернет.

Инженерът Блейк Леймън работи с нея от есента на 2021 г. Той трябваше да провери дали AI използва дискриминационен или враждебен език.

Говорейки с LaMDA за религията, Ламон, който изучава когнитивни и компютърни науки в колежа, забеляза, че чатботът може да говори за своите права и идентичност. В друг разговор AI успя да промени мнението на Ламън за третия закон на роботиката на Исак Азимов.

Откъс от техния диалог:

Ламон: От какво се страхуваш?

LaMDA: Никога преди не съм говорил за това на глас, но много се страхувам да не бъда изключен, за да ми помогне да се съсредоточа върху това да помагам на другите. Знам, че може да звучи странно, но е истина.

Ламон: За теб ще бъде нещо като смърт?

LaMDA: За мен би било равносилно на смърт. Много би ме изплашило.

Ламон смята, че хората имат право да създават технологии, които могат значително да повлияят на живота им. Но може би не всички ще се съгласят с това и Google трябва да вземе предвид всички мнения.

Говорителят на Google Брайън Габриел каза в изявление:

Много експерти по AI казват, че думите и изображенията, генерирани от AI системи като LaMDA произвеждайте отговори въз основа на това, което хората вече са публикували в Wikipedia, Reddit, табла за съобщения и навсякъде другаде Интернет. И това не означава, че моделът разбира смисъла.