Новости науки "Русского переплета" Rambler's Top100
Портал | Содержание | О нас | Пишите | Новости | Книжная лавка | Голосование | Топ-лист | Регистрация | Дискуссия
Лучшие молодые
ученые России

Подписаться на новости

АВТОРСКИЕ НАУЧНЫЕ ОБОЗРЕНИЯ

"Физические явления на небесах" | "Terra & Comp" (Геология и компьютеры) | "Неизбежность странного микромира"| "Научно-популярное ревю"| "Биология и жизнь" | Теорфизика для малышей
Семинары - Конференции - Симпозиумы - Конкурсы

НАУКА В "РУССКОМ ПЕРЕПЛЕТЕ"
Проект поддержан Международной Соросовской Программой образования в области точных наук.
Новости из мира науки и техники
The Best of Russian Science and Technology
Страницу курирует проф. В.М.Липунов
"Русский переплет" зарегистрирован как СМИ. Свидетельство о регистрации в Министерстве печати РФ: Эл. #77-4362 от
5 февраля 2001 года. При полном или частичном использовании
материалов ссылка на www.pereplet.ru обязательна.

Тип запроса: "И" "Или"

25.11.2019
15:24

Найден способ предотвратить конец света из-за роботов

    Ученые Университета Массачусетса в Амхерсте разработали платформу для создания алгоритмов, которые должны предотвратить опасное поведение машин с искусственным интеллектом (ИИ) и не допустить причинения вреда человеку. Об этом сообщает издание Science Alert.

    Исследователи назвали алгоритмы селдоновскими — в честь персонажа серии научно-фантастических романов «Основание» Айзека Азимова. Хотя они не дают ИИ понимание морально-этических норм или того, что является благом для человека, они позволяют системе определить, какое поведение является нежелательным и не допустить его.

    В качестве примера ученые приводят использование селдоновских алгоритмов для лечения диабета, когда автоматическая система контролирует инсулиновую помпу. В этом случае нежелательным поведением является то, что способствует критически низкому уровню инсулина в крови или гипогликемии. Исследователи также разработали алгоритм для системы прогнозирования среднего балла аттестата у студентов, чтобы избежать гендерных предрассудков, которые обнаруживались у некоторых других алгоритмов.

    В октябре бывший разработчик Google Лара Нолан заявила, что оружие с искусственным интеллектом, способное принимать решение без человека, сможет уничтожить города мира за считанные секунды. Если в одном районе будет находиться много подобных систем, то существует вероятность «внезапной войны», так как они среагируют друг на друга почти моментально.

    По информации https://lenta.ru/news/2019/11/25/seldon/

    Обозрение "Terra & Comp".

Помощь корреспонденту
Кнопка куратора
Добавить новость
Добавить новости
НАУКА В "РУССКОМ ПЕРЕПЛЕТЕ"

Если Вы хотите стать нашим корреспондентом напишите lipunov@sai.msu.ru

 

© 1999, 2000 "Русский переплет"
Дизайн - Алексей Комаров

Rambler's Top100