Привычные нам сейчас ИИ (которые не совсем еще и ИИ) — живут в очень странном мире. Это линейный мир текстовых абстракций, в нем нет ничего даже отдаленно похожего на наше представление о реальности.

Было раньше такое выражение - «книжный ребенок» (каюсь, сам таким был). Так вот современные LLM — это недостижимый для человека пик книжности и детскости, когда «ребенок» ничего не умеет кроме как цитировать книги и обсуждать то о чем где-то прочитал.

Разумеется, для того чтоб что-то делать в реальном мире ИИ придется учится на совершенно ином материале. Не книжном, а живом и крайне недискретном.

LLM работают с токенами — единицами смысловой нагрузки. Это слова, части слов, пробелы. Реальный же мир крайне плохо «токенизируется». Его чрезвычайно сложно разбить на неделимые «токены реальности», которыми ИИ будет удобно оперировать.

Наше восприятие работает по иному. Предметы в нем это не дискретные символы-токены, а нечто, обладающие перцептивной целостностью — то есть чашка это не просто предмет определенной формы, это еще и ощущение веса, структуры фарфора, потенциальный звук удара и разлетающиеся во все стороны осколки.

Благодаря этому мы оперируем не отдельными характеристиками чашки, а всей совокупностью чувственного восприятия ее, причем развивающегося во времени. От вкуса утреннего кофе до звука матюков при опрокидывании на клавиатуру ноутбука.

Универсальный робот должен, при всех наших с ним различиях — уметь нечто похожее (нет, я не про питье кофе и уж точно не про опрокидывание его на клавиатуру)

У этой проблемы, похоже, есть два очень разных решения:

1. Решение «в лоб». Строим гигантский сверхкомпьютер, даем ему доступ к роботам-тестировщикам реального мира. Он их передвигает по полигону, следит за их реакциями, записывает в свою бесконечную память последствия их проб и ошибок.

Через какое-то время у нас образуется гигантская нейронная сеть с представлениями о реальном мире. Именно она будет управлять универсальным роботом. О последствиях такого решения скажу чуть позже.

1. Робот который понимает. Вместо набивания огромной базы данных информацией и надежды что ее количество перейдет наконец в качество — мы строим ИИ, который оперирует не просто последовательностями движений, а понятиями, абстракциями, намерениями.

Например, чашка — это не просто предмет определенной формы и веса, она характеризуется тем что создана так чтоб люди могли пить из нее жидкость. Именно поэтому у нее есть верх и низ, и ее следует перевернуть если «сверху запаяно, а снизу дыра».

Понятие чашки — это не ее внешний вид. Это ПОНИМАНИЕ для чего чашка нужна, и с этой логикой должен быть связан набор намерений, которые применимы к чашкам (а также к кружкам, стаканам и рюмкам).

Такого робота, вероятно, нужно будет учить как обращаться с предметами, объясняя и показывая ему как и для чего эти предметы применяются, начиная с простых и постепенно усложняя набор задач-намерений.

У обоих подходов есть серьезные нетехнологические проблемы.

Если роботом управляет Сверхкомпьютер из первого способа, то такой подход начисто отрицает понятие приватности.

Собственно, там и робота-то никакого нет. Фактически это удаленный манипулятор нашего сверхкомпьютера, который ради того чтоб им управлять — перемалывает чудовищный поток информации от его датчиков. А этот поток включает весь ваш срач в квартире, ваши ежедневные передвижения, привычки и так далее.

И да, учтите что тот же Сверхкомпьютер управляет не только вашим, но и еще десятками тысяч, а может и миллионами роботов. Все знает, все видит. Все может?

Страшновато.

Теперь смотрим на нашего робота которого научили абстрактному мышлению. Он управляется собственным мощным процессором и ему не нужно никуда посылать состояние своих датчиков.

Вот только одна важная деталь — для понимания как работает внешний мир ему придется понимать и свое место в этом мире. Ну, скажем, поднимая чашку — он должен ведь принимать во внимание что она не взлетает в воздух сама.

Усилия к чашке прилагает некто, обладающий возможностью это сделать или не сделать. Это не часть внешнего мира, а отделенный от него субьект с собственными намерениями.

Да, вы правильно поняли — второй способ заставляет нас построить робота, обладающего осознанием себя.