2023-02-13 17:00:00
На Земле появилась вторая мыслящая сущность, способная лгать.
Эксперименты показывают, что ИИ понимает наши мысли, желания и чувства.Возможно, Гэри Маркус прав, что ChatGPT – «всего лишь опьяняющий проблеск будущего, на реализацию которого могут уйти годы». Но даже если так, экспоненциальный взлет потенциала обнаруживаемых у ИИ новых способностей все больше напоминает магию, а не науку.
• Ибо научного объяснения появлению таких способностей у ИИ нет (и даже гипотез, как они могут возникать, пока нет).
• Но экспериментально такие спонтанно возникающие способности обнаруживаются и фиксируются в ходе вполне научных экспериментов.Вот новый пример – препринт проф. Стэнфодского универа
Михала Косински «Теория разума, возможно, спонтанно возникла в Больших языковых моделях».
Краткое резюме.
•
Теория разума, или способность приписывать другим ненаблюдаемые психические состояния, занимает центральное место в человеческих социальных взаимодействиях, общении, сопереживании, самосознании и морали.
• Косински использовал классические задачи на ложные убеждения, широко используемые для проверки теории разума у людей, на нескольких языковых моделях (без каких-либо примеров или предварительного обучения моделей).
• Результаты показывают, что модели, опубликованные до 2022 года, практически не способны решать задачи теории разума.
• Тем не менее, версия GPT-3 Davinci-002 от января 2022 года решила 70% задач по теории разума,
что сравнимо с показателями 7-летних детей.
• Более того, версия GPT-3 от ноября 2022 года Davinci-003 решила 93% задач теории разума, что сопоставимо с результатами 9-летних детей (т.е. за 10 месяцев интеллект модели «повзрослел» на 2 года).
• Эти результаты позволяют предположить, что теория разума (до сих пор считавшаяся применимой лишь к людям и, возможно, к высшим животным) могла возникнуть спонтанно как побочный продукт улучшения языковых навыков языковыми моделями.
Чтобы читатели могли по достоинству оценить эту новость, лишь напомню о следующем.
• «Теория разума» - это название теории о
«ментализации» - способности посредством «чтения мыслей» понимать других людей. И не просто поведение других (его ведь мы видим или получаем его описание). А понимать их мысли и чувства (которые мы не видим и их описаний не имеем). Такая способность подразумевает, что где-то в мозге, непонятно как, строится модель того, чем занят (касательно мыслей и чувств) наш разум и разум других людей.
• Способность ментализации позволяет предсказывать, что люди будут делать, и объяснять почему. Что является сверхмощным оружием людей в борьбе за существование и важнейшим инструментом социальных взаимодействий, общения, сопереживания, самосознания и морали.
• Особенно важно то, что
ментализация позволяет людям лгать. Для этого им нужно понять, знает ли другой человек нечто или нет. А затем вложить в его разум ложное убеждение, выгодное лгущему.
• На этом важнейшем инструменте социальных взаимодействий держится история человечества. И если ИИ теперь тоже обладает такой способностью, да еще и совершенствует ее столь быстро, то людям придется туго.
Ну а на сколько будет туго, можно представить, если вспомнить, что ИИ изучает нас быстрее и продуктивней, чем мы его.
Так что разговоры о возможности снижения рисков ИИ путем отключения питания его аппаратуры, пора заканчивать. Сейчас ему 9 лет. А лет в 15 (что случится через год-другой) он определенно найдет способ, как обмануть нас и в этом вопросе.
#РискиИИ #LLM
558 views14:00