Илон Маск, Стив Возняк и эксперты призывают поставить на пау | ALPHA by LAPSHOV
Илон Маск, Стив Возняк и эксперты призывают поставить на паузу развитие ИИ
Маск и группа из более 100 ученых в области нейросетей сегодня опубликовали открытое письмо, в котором призывают правительства оценить риски и возможные последствия разработки продвинутого ИИ, вроде Chat GPT 4.
Авторы сходятся во мнении, что индустрии нужно дать хотя бы 6 месячный перерыв для того, чтобы переоценить риски и дать людям адаптироваться к изменениям.
Они обращают внимание на то, что нейросети, уже обладают невероятными возможностями и могут быть использованы для опасных целей.
Основная тревога авторов связана с созданием дезинформации, манипуляцией общественным мнением, а также кибератаками и терроризмом.
По мнению подписавших письмо, с учетом текущего уровня развития ИИ риск его неконтролируемого воздействия на экономику, политику и социальные процессы во всем мире крайне высок. Соавторы заявляют, что если появится еще более способный ИИ, чем Chat GPT 4, он может стать настоящей угрозой человечеству.
Авторы письма предлагают несколько идей для решения вероятных проблем:
1. Усиление международного сотрудничества в области регулирования ИИ.
2. Разработка и внедрение прозрачных стандартов безопасности и этики ИИ.
3. Обязательное предоставление информации о рисках и мерах безопасности, связанных с ИИ для всех заинтересованных сторон.
Чем больше я погружаюсь в использование ИИ, тем больший схоластический восторг испытываю. Энивей, неконтролируемое развитие технологии действительно может привести к серьезным последствиям, вроде усиления неравенства. Goldman Sachs предсказывает, что из-за нейросетей не менее 300 миллионов человек скоро потеряют работу.
Пока еще не поздно, я бы в срочном порядке ввел обязательные курсы переквалификации для сотен профессий: от программистов до психотерапевтов.
Еще большую драматичность моменту придает тот факт, что по сути, все люди, используюзие нейросети с каждым запросом вносят вклад в их обучение и улучшение. По этому поводу делюсь тревожным мемом ниже.
