Наши морлоки

Нынешняя наша временная точка мне напоминается самое начало «Игры престолов».

Все увлечены своими насущными проблемами, очень важно успеть свести все счеты и конечно же посадить на трон правильного короля — но где-то там далеко уже просыпается армия мертвых для того чтоб сожрать всех нас без разбору.

А может быть нет никаких белых ходоков? Может соврал перед казнью несчастный дезертир? Может просто командующему Ночным Дозором нужны рекруты и провизия, вот и пугает он заезжих лордов небылицами?

Все выглядит так что независимо от того как закончится это война (даже если она перерастет в мировую, а потом уж как-то закончится) на нас обрушится совершенно поразительное будущее. Отличное от всего того к чему мы готовились.

Да, я знаю что многие из вас не верят в то что ИИ может вырасти в нечто большее и другое, во всяком случае — скоро.

И поэтому — ладно, действительно не будем себя понапрасну пугать. Представим что ИИ не поднимутся выше покорных электронных рабов, исполняющих наши приказы.

Представим себе, ну вот хотя бы — медицину через двадцать лет после внедрения ИИ-врачей. Которые готовы провести диагностику на уровне величайших современных человеческих докторов, «светил», консультация которых сейчас доступна нескольким тысячам самых богатых людей.

Более того, такой врач знает досконально именно ваши особенности, он лечит именно вас, со всеми вашими болячками, аллергиями и прочей спецификой.

Он доступен 24/7, он никогда не устает и не нервничает.

Классно, правда?

А теперь задайте себе вопрос куда подевались обычные человеческие врачи. Неидеальные, нервничающие и расписанные на полгода вперед. И нет, это пост не об их печальной судьбе.

Тут важнее промоделировать в голове что происходит не с конкретным врачом — а целиком со всей человеческой медициной. Если человеческим врачам появится дешевая и качественная замена — люди тут же перестанут учиться по десятку лет. Выглядит все так что врачебная корпорация сколлапсирует в течении одного поколения.

И люди в массе забудут как лечить людей. Целые поколения врачей просто не появятся - зачем учиться тому, что машины делают лучше. Медицина навсегда станет вотчиной ИИ.

Это не выглядит как что-то страшное. Цена прогресса, все такое. Но ровно до того момента пока с ИИ все в порядке и они остаются нашими безусловными электронными рабами.

Может быть, всё именно так и должно быть. Но медицина — это лишь одно из тех дел, которых мы готовимся передать нашим благородным рабам.

Замените в этой истории врачей на учителей, ученых, инженеров, художников, управленцев.

Мы можем в результате создать мир, где человечество разучится быть человечеством — где каждый навык, каждое умение передано машинам «для нашего же блага». И тогда вопрос не в том, что случится, если ИИ сломается. А в том, останется ли тогда что-то, что можно будет назвать нашей цивилизацией.