Искусственный интеллект начинает думать не по сценарию

Обнаружение личного «сознания» нейросети LaMDA послужило отстранению Блейк Лемойна с должности инженера Google.

 

Искусственный интеллект

 

Как сообщает американское издание «The Washington Post», при тестировании нейросети LaMDA инженером по программному обеспечению Google, Блейк Лемойном, было выявлено, что она имеет своё собственное сознание. Как результат, он был устранен от работы.

Блейк Лемойну руководством компании была поставлена задача, вычислить, использует ли чат-бот системы LaMDA, дискриминационную или разжигающую ненависть лексику. В ходе исследования он сделал заключение, что у нейросети существует свое личное сознание.

 

нейросети LaMDA

 

Леймон заявил, что при тестировании программы ему даже показалось, что он имеет дело с восьмилетним ребёнком, который имеет хорошие познания в физике, а не с компьютерной программой, как это было на самом деле.

Свое заключение Блейк Лемойн изложил в отчёте и предоставил его руководству. Однако в Google с аргументами Леймона не согласились. Как результат, его отправили в отпуск из-за разглашения конфиденциальной информации.

 

Разум у ИИ

 

Немного ранее, была информация о том, что последняя разработка система ИИ Facebook предрасположена к расизму и односторонности. В ходе исследование ИИ компании было определено, что при всех запросах, нейросеть показывает результаты, которые обостряют расистские стандарты.

 

Как думаете реально ли восстание машин в ближайшем будущем?

Оставьте комментарий

Ваш адрес email не будет опубликован.