Искусственный интеллект может привести к ядерной катастрофе

Опубликовано 12.05.2023
Герман Кричевский   |   просмотров - 1053,   комментариев - 2
Искусственный интеллект может привести к ядерной катастрофе

Опрос Института человекоцентрического искусственного интеллекта (ИИ) при Стэнфордском университете показал: более трети (36 процентов) исследователей считают, что ИИ может повлечь за собой «катастрофу ядерного уровня».

Отмечается, что опрос был проведен в рамках ежегодного отчета Института об индексе ИИ, который фактически является отчетом о состоянии всей отрасли. Несмотря на столь отрицательный результат, этот доклад также показывает, что интерес политиков к ИИ растет, а сама технология продвигает научные открытия вперед.

Показатель в 36 процентов имеет важную оговорку: он касается только принятия решений самим ИИ – то есть когда нейросеть самостоятельно делает выбор, в конечном итоге приводящий к катастрофе, а не злоупотребления ИИ человеком, что, безусловно, также является растущей угрозой, которую отчет рассматривает отдельно.

«Количество инцидентов и споров, связанных с ИИ, выросло в 26 раз с 2012 года. Среди заметных инцидентов в 2022 году — поддельное видео о сдаче в плен президента Украины Владимира Зеленского и использования американскими тюрьмами технологии прослушивания телефонных разговоров своих заключенных», — говорится в отчете.

Исследователи говорят, что этот рост свидетельствует как о более широком использовании технологий ИИ человеком, так и об осознании возможностей злоупотреблений. Иными словами, есть и другие способы, которыми ИИ может нанести и уже наносит вред, кроме как собственными руками.

Несмотря на эти опасения, только 41 процент исследователей считают, что ИИ следует регулировать. 73 процента исследователей считают, что ИИ может в скором времени привести к революционным изменениям в обществе

Об этом сообщает портал Futurism. 


Комментарии:

Цитировать Имя
Виктор Быков, 15.06.2023 17:03:54
Мы же обезьян не убиваем, хотя в зверинцах держим, но и на воле их гораздо больше. От развития не уйти. Появилась микро и наноэлектроника, компьютер и смартфоны - это уже часть нас самих. Появляются новые решения. Определяется все - аксиомами, которые будут заложены в среду. Люди ни в каких космосах не выживут. Даже ни на одной из планет нам не выжить. На Марсе яблони цвести не будут - мечты эти кончились. А развитие идет. И очень изрядно. ИИ может и, как я думаю, оторвется от нас нами же рожденный. А люди - что они не выдумывают. И "розовая" публика появилась, лесбиянки, педики - причем испокон века это было. Только волнами и местами. Родили микроэлектронику, а с ней интернет - и все это интенсивно развивается. Так что от решений ни кого все это уже не зависит.
Цитировать Имя
Валерий Гумаров, 12.05.2023 14:38:24
Страшен не ИИ, страшен комплекс неполноценности политиков, дорвавшихся до власти, и опасен хайп вокруг ИИ с перекосом в сторону луддитов XXI века с их страхом всего нового. Оно, конечно, топором можно и старушке дров нарубить, а можно и саму старушку в дрова изрубить. Все зависит от того, в чьих руках топор.

А уж про то, что ИИ может обрести какую-то самостоятельность, вырваться из-под контроля программистов и ринуться на подчинение себе человечества... Это всем хайпам хайп.

Никто нам не навредит, кроме самих себя. Что мы испокон веков успешно делаем. Вместо того чтобы сейчас осваивать соседние галактики, друг друга со своей планеты пытаемся выжить. Искусственным интеллектом при том себя стращая.