Сюжет “Терминатора” может повториться в реальной жизни
В одной из последних статей , опубликованной авторитетным журналом AI Magazine, исследователи объяснили, как ИИ может выйти из под контроля и нанести серьезный вред человечеству.
По их мнению, если одна из самых успешных моделей ИИ – GAN или генеративно-состязательные нейросеть, будет контролировать процессы, жизненно важные для человечества, она может попытаться обмануть стандартный алгоритм и разработать стратегию, чтобы максимально быстро и эффективно получать вознаграждение, используя все возможные ресурсы и уничтожая любое препятствие на своем пути.
Исследователи считают, что вышедший из под контроля ИИ может уничтожить человечество, если посчитает людей препятствием перед получением вознаграждения.
#новости
