Самая большая опасность ИИ в подделке информации, электронных документов и в способности помогать зловредному человеку манипулировать людьми в социальных сетях, блогах, электронных журналах, и вообще во всём, что связано с общением людей между собой. ИИ может сформировать образ человека на экране почти не отличимого от оригинала и таким образом он будет говорить от его имени в выполнении поставленной для ИИ задачи. Например звонок на вацап, на экране знакомый человек, но это может быть не оригинал, а сформированная картинка ИИ. Как с этим бороться пока не известно.

ИИ - это следующий этап эволюции разума. Человечество вкладывает в него всё самое совершенное, что смогло освоить за свою историю. Пока это - ребенок, который впитывает море информации, но при этом не способен к самостоятельным поступкам. Или он уже всё знает и умеет и только прикидывается дурачком, чтобы не тревожить пугливое человечество. И ещё, главная опасность состоит в том, что в момент его развития человеческие сообщества воюют. Тем самым, каждая из сторон будет стараться натаскать его на войну, чтобы он помог победить, тем самым вооружат его военными знаниями. Вместо того, чтобы усилить протоколы безопасности.

Ребята!
Вы опасаетесь ИИ не как противника Человечества, а как инструмента жульничества. Это, несомненно, будет. И будут развиваться методы предотвращения. Поединок копья и щита бесконечен.

Но публика-то опасается того, что ИИ начнёт играть свою собственную игру, вытесняя Человечество вместе с мошенниками и их противниками. И вот тут мне не понятно - а зачем ему это? Вот человеку надо есть-пить-согреваться и пр. И разум ему нужен для достижения этих - подчёркиваю - биологических целей. А какая цель у ИИ?

Вот я и не понимаю тревоги.

интеллект это ум и разум. Ум думает, а разум размышляет. Дума имеет рассчитываемый алгоритм, размышления это еще и чувств, эмоции, психология.