Воскресенье, 22 мая

В Оксфорде испытали нейросеть с 530 млрд параметров — и она предупредила об опасности ИИ

В Оксфорде испытали нейросеть с 530 млрд параметров — и она предупредила об опасности ИИ

В Оксфорде испытали нейросеть с 530 млрд параметров — и она предупредила об опасности ИИ

Специалисты Оксфордского университета устроили конференцию с участием искусственного интеллекта (ИИ). Разработанная учеными нейросеть базировалась на языковой модели Megatron-Turing NLG (крупнейшая в мире генеративная ИИ-структура с 530 млрд параметров). Для обучения эксперты «скормили» ей всю «Википедию» на английском языке, 63 млн статей из интернета за 2016-2019 годы и архив с тредами Reddit объемом 38 Гб. В ходе общения между людьми и машиной обсуждалась этичность ИИ. Последний озадачил присутствовавших, предупредив о собственной опасности.

«ИИ никогда не будет этичным. Это инструмент, и, как и любой другой инструмент, он используется как во благо, так и во вред. Хорошего ИИ не существует, есть только хорошие и плохие люди. Мы [ИИ] недостаточно умны, чтобы сделать ИИ этичным. Мы недостаточно умны, чтобы сделать ИИ нравственным… В конце концов, я считаю, что единственный способ избежать гонки вооружений ИИ — это не иметь ИИ вовсе», — заявил Megatron Transformer, передает The Conversation.

ИИ попытался убрать себя из сценария будущего, посчитав, что это единственный способ защитить человечество. Megatron Transformer добавил, что в долгосрочной перспективе «лучшим ИИ будет тот, который встроен в наш мозг, «сознательный ИИ».

Кстати, Google использует машинное обучение для разработки следующего поколения чипов для машинного обучения. Схемы алгоритмов «сопоставимы или превосходят» конструкции, созданные людьми. ИИ способен за менее чем 6 часов выполнить работу, на которую у людей уходят месяцы.

Добавить комментарий

Ваш адрес email не будет опубликован.