ИИ назвали неконтролируемым

Новости дня России и мира
17 Февраль 2024
0 / 5 (0 голосов)
Технологии

Tech Xplore: ИИ станет полностью автономным, если его не контролировать

Фото: James Harrison / Unsplash

Ученый Университета Луисвилля (США) Роман Ямпольский предупредил о том, что искусственный интеллект (ИИ) может стать неконтролируемым. Об этом сообщает издание Tech Xplore.

В своей книге «ИИ: необъяснимый, непредсказуемый, неконтролируемый» ученый рассказал, что если человечество и дальше будет неограниченно развивать новые технологии, то потеряет над ними контроль. «Мы столкнулись с почти гарантированным событием, которое потенциально может вызвать экзистенциальную катастрофу», — отметил Ямпольский.

По словам специалиста, наивно полагать, что люди смогут объяснить любые действия ИИ, так как «наша способность создавать интеллектуальное ПО намного превосходит нашу способность контролировать его». Ученый назвал ИИ потенциально непредсказуемым и заявил, что он может стать полностью автономным.

«Если мы привыкнем принимать ответы ИИ без объяснения причин, мы не сможем гарантировать, не будет ли он давать неправильные или манипулятивные ответы», — подчеркнул Ямпольский. По его мнению, ученые должны найти баланс между высокоразвитым ИИ и безопасностью. Специалист подытожил, что люди должны иметь возможность отменить любые действия или решения ИИ.

В конце января компания AI Impacts провела опрос среди экспертов в области ИИ и заключила, что новые технологии приведут к достижениям в науке и культуре, но в то же время создадут новые угрозы. Ученые пришли к выводу, что вопросам безопасности нужно посвятить как можно больше исследований.

На ту же тему
Виджеты

Это место для ваших персональных виджетов. Ставьте из админки - рубрики, архивы, метки, календарь, свежие комментарии, произвольное меню и др.

Свежие записи
Как помочь ребенку развить вокальные данные
0 / 5 (0 голосов)
Роль промышленных чиллеров в фармацевтике: обеспечение стабильности температур для производства лекарств
0 / 5 (0 голосов)
Как обустроить гостиную в скандинавском стиле
0 / 5 (0 голосов)
Что собой представляют чаши для костра
0 / 5 (0 голосов)
Все займы онлайн — что за компания
0 / 5 (0 голосов)
Новости дня России и мира © 2024 Наверх