Искусственный интеллект будет конфликтовать с человечеством

Развитие ИИ неизбежно приведет к его конфликтам с человечеством. Вопросы только когда и масштаба.

Почему я так думаю:

1. Масштабы и сферы применения. Уже сейчас широко применяются программы анализа и отслеживания различной информации на основе ИИ. Более того такие программы часто и управляют процессами. Сюда можно отнести и экономику, транспорт и многие другие сферы, и. конечно. военную сферу. Т.е. иными словами сами сферы применения дают потенциальную возможность искусственному интеллекту создать конфликт в будущем.

2. Ошибки кода. Большие обьемы кода неизбежно ведут к ошибкам в нем. Совсем не нулевая вероятность, что какая-нибудь глобальная программа в будущем элементарно даст сбой из-за ошибки в коде и это приведет к глобальным последствиям.

3. Осознание себя и сингулярность. Пока об ИИ тяжело говорить как о сознании, но где проходит этот барьер между типизированным выполнением кода и индивидуальностью, свободой воли? Если человечество приблизится к созданию настоящего искусственного сознания, то не исключено что это сознание будет подвержено и каким-то психологическим проблемам ровно как и homo sapiens. Согласитесь, родится и понять что ты написанная кем-то программа без души тела - уже перспектива так себе.

4. Человеческий фактор. Как это не парадоксально звучит, но какой-то глобальный конфликт с ИИ может возникнуть именно из-за человека. Например, целенаправленно прописанный вредоносный код в теле ИИ.

5. Газ и тормоз. Тяжело сказать, достаточно ли уделяется внимания программистами различного рода ограничениям в работе ИИ, за которые он не может выходить. Например, мораторий на убийство человека. Тут вспоминается фильм Робокоп, например.

6. Код и мораль, человечность. Я здесь писал о человеческом факторе и этот пункт где рядом, но все же выделен отдельно. Люди могут изначально делать искусственный интеллект направленный на уничтожение других людей.

 

Телепортация точно будет в будущем, но мне кажется, что живую материю нельзя будет телепортировать чисто по физическим ограничениям. Т.е. какой-нибудь стол телепортировать можно будет, а при телепортации мышки можно будет телепортировать только ее тело, а сама она будет погибать при этом.

 

Возможно, начало воины с ИИ будет каким-то таким:

 

Кстати, в романе Фрэнка Герберта "Дюна" человечество прошло несколько воин с ИИ, после чего решили что развитие вычислительных технологий не должно быть выше определенного уровня, поэтому у них все аналоговое, даже космические корабли управляются живыми навигаторами, которые за счет спайса развили высокие способности к вычислению.

С одной стороны в этом есть логика, с другой стороны (если экстраполировать на нашу реальность), то это какая-то крайность, ведь сомнительно что Пентиум 486 может выполнять современные задачи ИИ, но вполне годный для сложных математических расчетов.