«Человечеству необходимо осознать опасность искусственного интеллекта», — заявил глава Anthropic.

[natalia_il_1992]

Дарио Амодеи, генеральный директор Anthropic, опубликовал в понедельник эссе на 38 страницах под названием "Подростковый возраст технологии", предупреждая, что суперинтеллектуальный ИИ может появиться уже в 2027 году и создать катастрофические риски для цивилизации, если правительства и технологические компании не примут срочные меры.

По словам аналитика, "мощный искусственный интеллект" будет умнее любого на планете. И появиться такая технология может уже в ближайшие годы. Именно поэтому сейчас человечество оказалось в зоне значительной опасности. Ведь люди получат беспрецедентные возможности, и далеко не каждый будет стремиться использовать их на общую пользу.

"Психически неуравновешенный одиночка, способный устроить стрельбу в школе, но, вероятно, не способный создать ядерное оружие или выпустить чуму… теперь будет сравним со способностями вирусолога со степенью доктора наук", — отмечает Амодеи.

Однако, добавляет эксперт, вовсе не обязательно, что в будущем искусственный интеллект будет подчиняться человечеству. Ситуация может оказаться противоположной. Не исключено, что именно ИИ будет доминировать на планете. Или же технологией воспользуются авторитарные лидеры для установления глобальной диктатуры.
В частности, Дарио Амодей упомянул о намерениях администрации Дональда Трампа продавать новейшие ИИ-чипы Китаю. Эксперт сравнил такие планы с продажей ядерного оружия Северной Корее.

Общий вывод эссе — остановка развития ИИ малореалистична: рецепт создания мощных систем и экономические стимулы слишком сильны, а конкуренция между странами и компаниями будет подталкивать к ускорению.
Поэтому ключевой задачей Амодеи называет не торможение прогресса как такового, а создание режима управляемости: прозрачности оценок, многоуровневой инженерии безопасности, внешнего аудита и политических рамок, которые снизят вероятность катастрофы, не закрывая дорогу к полезным применениям. Иначе, предупреждает он, человечество может не пережить собственную «технологическую юность» — период, когда сила уже появилась, а ответственность и инструменты контроля еще нет.

Опрос делаю тут впервые, поэтому не уверена, что всё сделала правильно.

Poll #34147

Open to: Registered Users, detailed results viewable to: All, participants: 17

View Respondents

Согласны ли вы с утверждениями Дарио Амодеи?

View Answers

Да
5 (29.4%)

Согласен частично
9 (52.9%)

Нет
2 (11.8%)

Другое. Поясню в комментариях
1 (5.9%)

Comments

[lapsa]

Я вижу опасность искусственного интеллекта не в его, хм, интеллекте, а в недостатке интеллекта тех, кто им пользуется.
Когда он в качестве справочника выдает полную чушь, а ее копипастят, даже не проверяя.
А ведь сейчас на ответ ИИ идет первая ссылка и в гугле, и в яндексе.

[natalia_il_1992]

Проголосуйте, пожалуйста, мне нужно проверить, правильно ли я сделала опрос.
Ваш ответ подходит под последний пункт: "Другое"

[natalia_il_1992]

Вижу, проголосовали. Спасибо!

[green_cat]

Вот с вами согласна полностью.

[klebestr]

По-моему автор эссе о том же: "Ведь люди получат беспрецедентные возможности, и далеко не каждый будет стремиться использовать их на общую пользу".
Черт бы с ней, с пользой, лишь бы не использовали во вред, но об этом он тоже пишет: "Психически неуравновешенный одиночка ... теперь будет сравним со способностями вирусолога со степенью доктора наук"

[green_cat]

Я этот пассаж поняла так:
далеко не каждый будет стремиться использовать ИИ на общую пользу, кто-то кое-где у нас порой будет использовать ИИ во вред остальным.


Отвечала на коммент до редакции.

[green_cat]

Перефразирую. С автором я согласна, но на данный момент бесит именно то, о чем написала LAPSA.
А действия психически неуравновешенных одиночек говорят не об уровне их интеллекта, а о моральных качествах.

[maksudov]

Говорит об этом каждый из основателей крупнейших компаний, что вызывает подозрения а не хотят ли они прыгнуть в последний вагон контроллёрами, ну или такими страшилками поднимают интерес инвесторов, тоже неплохая стратегия. Уже сейчас неконтролируемо, а если пытаться в жёсткий контроль, то будет примерно как оборот наркотиков или оружия, лазейки найдутся всегда. Опасность есть, но исходит она не от систем, а как обычно от людей самих, молотком можно разные вещи делать.

[aena_alone]

Чтобы появилось что-то суперинтеллектуальное, надо, чтобы материал обучения соответствовал. А с этим ещё долго будет полное увы.

[(Anonymous)]

Я как всегда отсталый в технологиях человек. Куда нажать, чтобы проголосовать?

[in_es]

Все поняла, оказывается, он меня не признал сначала.