Разгорелась большая дискуссия по поводу создания искусственного сознания, который мог бы сделать ИИ следующих поколений, похожий на людей. Поводом для дискуссии стал тезис Ильи Суцкевера, сооснователя OpenAI, который заявил, что, возможно, сегодняшние большие языковые модели уже немного сознательны.
На это высказывание ответили исследователь в области психофизиологии сознания, нейробиолог Анил Сет и Томас Метцингер, что создание искусственного сознания – очень плохая идея.
Анил Сет написал статью об этом, тут можно прочитать.
В частности Сет приводит 2 основные причины, по которым создание искусственного сознания, будь то умышленно или невольно, очень плохая идея.
1. Это то, что он может наделить ИИ-системам новыми возможностями и возможностями, которые могут сеять хаос, если они не будут правильно спроектированы. С осознанным ИИ становится гораздо сложнее, поскольку у этих систем будут свои интересы, а не только интересы людей.
2. причина вызывает еще больше тревогу: рассвет сознательных машин привнесет огромный потенциал для страданий в мире, страданий, которые мы, возможно, даже не сможем распознать.
Также показываем вам отрывок из уникального интервью Карла Густава Юнга, которого спрашивают: «Возможно ли, что высокое развитие человека может растворить его индивидуальность в некотором коллективном сознании?»
