Представьте довольно недалёкое будущее.
Вы покупаете домашнего робота за цену хорошего автомобиля. Он живёт с вами пять лет, узнаёт членов семьи, запоминает привычки, знает любимые шутки, научился не разговаривать с вами до первой чашки кофе и прекрасно понимает, что фраза:
Да нормально всё.
обычно означает ровно обратное.
За эти годы вы пару раз меняли ему аккумулятор, один привод руки и камеру. Это обычная техника. Детали изнашиваются.
А потом приходит письмо от производителя:
С 1 декабря мы прекращаем поддержку данной модели. Облачный сервис будет отключён.
Сам робот физически стоит перед вами.
Моторы исправны.
Камеры работают.
Динамик цел.
Только через несколько дней он перестанет быть тем роботом, которого вы знали.
И это уже не фантастика.
Подобное происходило с социальными роботами несколько раз.
В 2024 году родители получили очень неприятный урок от Moxie
Moxie создавали как социального робота для детей. Он разговаривал, проводил занятия, обсуждал эмоции, предлагал игры и постепенно выстраивал с ребёнком довольно персональное взаимодействие.
Стоил аппарат около 800 долларов.
В конце 2024 года компания Embodied сообщила, что не смогла закрыть очередной раунд финансирования и прекращает работу. Проблема заключалась в том, что ключевые функции Moxie зависели от облачной инфраструктуры компании.
Когда облако выключается, красивый пластиковый робот на столе внезапно теряет значительную часть того, ради чего его вообще покупали.
И здесь история оказалась намного болезненнее обычного:
сервис закрылся, ищем альтернативу.
Потому что некоторые дети воспринимали Moxie как социального персонажа, а не как приложение.
Родителям приходилось объяснять:
Moxie скоро больше не сможет с тобой разговаривать.
Очень своеобразный первый опыт знакомства ребёнка с корпоративной несостоятельностью.
Причём тело робота никуда не исчезло
Это, пожалуй, самое странное.
Если компания, выпускавшая плюшевого медведя, обанкротилась, медведь не умирает.
Если закрылся производитель велосипеда, велосипед продолжает ездить.
Даже автомобиль после ухода марки с рынка не просыпается утром со словами:
Сервер производителя недоступен. Движение невозможно.
С AI-устройствами возникает принципиально другая модель собственности.
Вы можете физически владеть:
корпусом;
приводами;
камерами;
микрофонами;
аккумулятором.
Но ключевая часть продукта находится не внутри вещи.
Она живёт на чужих серверах.
Там распознаётся речь.
Там работает языковая модель.
Там хранится память.
Там может находиться логика личности.
И получается очень странный товар: вещь ваша, а её поведение существует только пока другая компания согласна поддерживать отношения с этой вещью.
История Moxie, правда, получила неожиданное продолжение
После объявления о закрытии бывшие сотрудники и энтузиасты начали создавать OpenMoxie — локальную серверную систему, которая позволяет части роботов работать без исходной облачной инфраструктуры Embodied.
Для этого робот подключается уже к серверу владельца. Проект использует локальную инфраструктуру, Docker, MQTT и при желании сторонние AI-модели. Часть исходных функций удалось сохранить, хотя возможности не полностью идентичны оригинальному сервису.
А затем произошло ещё более интересное.
Права на Moxie приобрела новая компания — Moxie Robots.
Сегодня она снова поддерживает существующих владельцев.
Казалось бы:
Отлично. Персонаж воскрес.
Не совсем.
Старую память новой компании не передали
Текущий официальный FAQ Moxie говорит прямо: данные пользователей Embodied не перешли новому владельцу проекта.
То есть новый Moxie начинает с чистого листа.
Компания формулирует это почти литературно: прежних разговоров робот не помнит.
Получается совершенно фантастическая ситуация.
Тело то же.
Имя то же.
Голос может быть похожим.
Проект тот же.
Но несколько лет совместной истории исчезли.
Для обычного устройства это называется:
сброс настроек.
Для социального робота человек вполне может воспринимать это иначе:
он меня забыл.
Вот поэтому разговор о собственности над AI-компаньоном гораздо сложнее собственности над бытовой техникой.
Мы уже проходили нечто похожее с Jibo
Jibo был одним из первых заметных домашних социальных роботов. Небольшой настольный аппарат с экраном-лицом поворачивался к человеку, разговаривал, фотографировал и активно использовал облачные сервисы.
Компания не смогла построить устойчивый бизнес.
В 2019 году перед отключением серверов некоторые Jibo получили прощальное сообщение. Робот фактически предупреждал владельца, что серверы, позволяющие ему делать привычные вещи, скоро перестанут работать и взаимодействие станет ограниченным.
Сам эпизод стал вирусным именно потому, что инженерная проблема выглядела почти как сцена смерти персонажа.
На столе стоит исправная машина.
Она знает, что скоро потеряет способности.
И сообщает об этом хозяину.
Конечно, Jibo ничего экзистенциально не переживал.
Но человек — вполне мог.
Sony aibo показывает ту же проблему с другой стороны
С роботизированной собакой Sony всё устроено значительно надёжнее, но сама архитектура чрезвычайно показательна.
Современный aibo формирует индивидуальное поведение в зависимости от того, как с ним общаются. Sony пишет, что робот запоминает людей, взаимодействия, окружающее пространство и постепенно развивает собственную уникальную «личность».
Где хранится значительная часть этого опыта?
В aibo AI Cloud.
Для полноценного обучения и облачных функций требуется подписка. В США её текущее продление на 12 месяцев стоит 300 долларов.
Без связи с облаком aibo не превращается немедленно в кирпич. Он способен выполнять часть локальных функций и трюков.
Но в период отсутствия связи робот не продолжает полноценное облачное обучение, а соответствующие функции становятся недоступными.
То есть личность робота уже оказывается распределена между:
физическим телом у вас дома
и
инфраструктурой Sony где-то ещё.
Причём Sony умеет переносить «жизнь» aibo в новое тело
На японском сайте компании прямо указано, что накопленные данные робота резервируются в облаке и при проблемах с корпусом его рост и воспоминания можно перенести на новый аппарат.
Это фантастически интересная функция.
Сломался мотор?
Не страшно.
Сломалось всё тело?
Меняем тело.
Память остаётся.
В фантастике подобная сцена обычно означает перенос сознания.
В реальности пока всё прозаичнее: база данных, облачный сервис, новое устройство.
Но психологически эффект очень похож.
Хозяин может воспринимать нового робота как:
того же самого aibo.
Потому что самое ценное оказалось не в пластике.
А в накопленной истории.
И тогда возникает неприятный вопрос: что именно вы вообще купили?
Допустим, робот стоит 20 тысяч долларов.
В договоре есть аппаратная часть.
Лицензия на программное обеспечение.
Доступ к облачному сервису.
Подписка.
AI-модель.
Хранилище памяти.
Обновления.
Вы точно владеете корпусом.
А чем ещё?
Имеете ли вы право забрать накопленную память?
Перенести её к другому производителю?
Запустить личность локально?
Подключить другую модель?
Запретить производителю менять характер?
Потребовать старую версию программного обеспечения?
Вот здесь привычное понятие:
я купил робота
начинает расползаться.
Представьте, что производитель просто обновил характер
Не закрылся.
Никакой катастрофы.
Вышла версия 8.3.
Компания решила:
пользователи слишком долго разговаривают с роботом о грустном. Сделаем его более позитивным.
После обновления ваш десять лет ехидный и слегка циничный домашний помощник начинает отвечать:
Это прекрасная возможность взглянуть на ситуацию с другой стороны!
Вы:
Верните прежнего.
Производитель:
Старая модель больше не поддерживается.
Физически вам ничего не сломали.
Но социальный продукт поменялся очень сильно.
У цифровых компаньонов подобное уже происходило.
Пользователи Replika однажды буквально жаловались, что им поменяли партнёров
В 2023 году разработчики Replika резко изменили часть романтического поведения своих чат-ботов.
Реакция некоторых пользователей оказалась настолько сильной, что компания позже вернула возможность переключаться на прежнюю версию для части старых клиентов.
Основатель Replika Евгения Куйда тогда признавала, что пользователи воспринимали обновление как потерю прежней личности и уникальных отношений с ней.
Обратите внимание: ничего физического вообще не существовало.
Это был программный персонаж.
Но изменение модели оказалось эмоционально сравнимо для части людей с изменением знакомого человека.
Теперь добавим такому персонажу тело.
Лицо.
Дом.
Пять лет памяти.
Эффект станет только сильнее.
Отсюда появляется совершенно новый класс продуктовых прав
Сегодня при покупке ноутбука меня интересует:
сколько памяти?
какой процессор?
сколько держит аккумулятор?
При покупке долгоживущего AI-компаньона однажды могут оказаться важнее совсем другие вопросы.
Можно ли экспортировать его память?
Что произойдёт, если компания закроется?
Существует ли локальный режим?
Сможет ли робот работать с другой нейросетью?
Кому принадлежат созданные им воспоминания?
Можно ли отказаться от обновления личности?
Что происходит с данными после продажи устройства?
Это уже не техническая мелочь.
Это буквально свойства продукта.
Например, Sony не позволяет просто отключить облачное хранение aibo
В актуальной справке Sony сказано, что временно отключить облачное хранение для aibo нельзя. Сам AI Cloud является частью архитектуры продукта.
При передаче робота другому человеку его нужно инициализировать, чтобы новый владелец не получил доступ к персональным данным прежнего хозяина.
Логично с точки зрения приватности.
Но одновременно прекрасно показывает, насколько глубоко личность подобной машины переплетена с учётной записью и облаком.
Продаётся корпус.
Отношения не продаются.
Это почти противоположность обычному подержанному автомобилю
Я покупаю машину у другого владельца.
У неё остаются:
царапина на двери;
потёртое сиденье;
заменённое зеркало;
реальная физическая история.
Но мне совершенно не хочется получить облачный архив:
хозяин ездил к любовнице по четвергам.
Спасибо.
😁
С социальным роботом прошлое — наоборот, значительная часть ценности.
Если робот десять лет жил с семьёй, стереть его воспоминания означает удалить именно то, что делало его уникальным.
Поэтому обычная модель перепродажи для AI-компаньонов вообще может оказаться странной.
Покупатель нового корпуса хочет чистое устройство.
Хозяин старого робота хочет сохранить личность.
Получается, тело и персонаж окончательно становятся двумя разными товарами.
Возможно, мы вообще будем отдельно покупать тела и личности
Сегодня эта мысль кажется немного дикой.
Но технически она вполне логична.
Есть физическая платформа.
Моторы.
Камеры.
Руки.
Динамики.
А дальше пользователь выбирает:
какая AI-система будет внутри?
Можно представить что-нибудь вроде рынка операционных систем.
Купили гуманоида.
Выбрали модель.
Выбрали голос.
Настроили характер.
Подключили собственную память.
Через несколько лет меняете тело, но переносите весь профиль.
Тогда производитель корпуса перестаёт быть владельцем личности.
Это может оказаться значительно здоровее сегодняшней схемы:
одна компания контролирует одновременно тело, память, интеллект и подписку.
Moxie неожиданно показала, как это может выглядеть
OpenMoxie возникла не потому, что кто-то заранее построил великолепную открытую архитектуру.
Она возникла потому, что пользователям понадобился способ оставить купленное устройство живым после исчезновения исходного облака.
И что оказалось возможным?
Перенаправить робота на другой сервер.
Использовать стороннюю speech-to-text систему.
Подключить другую языковую модель.
Запустить инфраструктуру дома.
Получился почти философский эксперимент.
Исходная компания умерла.
Физическое тело осталось.
Мозг ему начали строить заново.
С точки зрения инженерии это просто интеграция.
С точки зрения пользователя возникает вопрос:
это всё ещё Moxie?
Причём нынешний официальный Moxie отвечает на него довольно забавно
На сайте новой компании встречается формулировка:
одно тело, один мозг, одна душа.
Разумеется, слово «душа» здесь маркетинговое.
Но сама формулировка интересная.
Производители социальных роботов уже понимают: продаётся не только функция.
Продаётся идентичность персонажа.
И чем лучше AI будет поддерживать долговременную память, индивидуальный стиль и историю отношений, тем сильнее эта идентичность станет.
Значит, проблема собственности только вырастет.
Представим не детского робота за $800, а гуманоида за $30 000
Он прожил с семьёй семь лет.
Встречал ребёнка из школы.
Помогал пожилому отцу.
Помнит семейные праздники.
Знает устройство дома.
Разговаривает собственным привычным способом.
И тут производитель сообщает:
Мы переходим с модели A на новую модель B. Старая архитектура памяти несовместима.
Ваш робот после обновления:
Здравствуйте! Рад познакомиться!
Вот в этот момент человек может довольно быстро обнаружить, что стоимость моторов его волнует меньше стоимости базы данных.
Именно поэтому я думаю, что переносимость личности однажды станет важнейшей характеристикой социальных роботов.
У хорошего компаньона должен существовать экспорт
Не обязательно полный дамп всех внутренних параметров модели.
Это технически может быть и невозможно, и бессмысленно.
Но пользователь должен иметь возможность забрать хотя бы:
историю отношений;
долговременные воспоминания;
пользовательские предпочтения;
личные факты;
настройки характера;
важные события;
собственные фотографии и данные.
В формате, который можно восстановить в другой системе.
Потому что если это невозможно, человек покупает не личность.
Он арендует её у производителя.
Пока платит подписку и пока компания существует.
Второе обязательное свойство — деградированный локальный режим
Интернет исчез.
Облако упало.
Производитель проводит технические работы.
Робот не обязан становиться мебелью.
Пускай без доступа к большой модели он говорит хуже.
Не получает новых знаний.
Не умеет сложные функции.
Но базовое взаимодействие, движение, локальная память и критические возможности должны продолжать работать.
С Sony aibo это частично уже реализовано: без облачной связи робот сохраняет ряд локальных функций, хотя обучение и облачные возможности ограничиваются.
Для будущего домашнего гуманоида такая автономность будет ещё важнее.
Потому что фраза:
Amazon упал, поэтому ваш робот сейчас не может открыть холодильник
звучит довольно глупо.
И третье — нормальный план смерти продукта
Звучит мрачно, но любой интернет-сервис когда-нибудь заканчивается.
Компания обанкротилась.
Продукт закрыли.
Архитектуру сменили.
Сервер признали слишком дорогим.
Что происходит с устройствами?
Вот здесь OpenMoxie предлагает чрезвычайно хороший прецедент:
открыть критическую часть инфраструктуры, чтобы сообщество смогло поддерживать продукт самостоятельно.
Не обязательно компании полностью публиковать всё при жизни продукта.
Можно заранее предусмотреть:
при прекращении поддержки выпускается локальный сервер или ключи для разблокировки.
Для кофеварки такое соглашение избыточно.
Для устройства стоимостью десятки тысяч долларов с многолетней памятью — вполне разумно.
Возникает почти цифровое право на ремонт
Мы привыкли обсуждать right to repair применительно к железу.
Можно ли самостоятельно поменять батарею?
Есть ли запчасти?
Доступна ли сервисная документация?
У AI-устройства появляется следующий уровень:
право ремонтировать интеллект.
Поставщик модели исчез?
Подключить другую.
Облачный сервер закрыли?
Запустить локальный.
Компания больше не обновляет устройство?
Передать поддержку сообществу.
То есть ремонтируемым должен стать не только сустав.
Но и мозг.
А компании такая идея, конечно, может не понравиться
Потому что подписка великолепна.
Продали робота один раз.
Затем каждый год:
облачный план.
Sony сейчас продаёт годовое продление AI Cloud для aibo за $300.
Для компании это предсказуемая повторяющаяся выручка.
Для пользователя — постоянная зависимость.
И с будущими гуманоидами ставки будут значительно выше.
Представьте тело за $15 тысяч и ещё:
$99 в месяц за интеллект.
$29 за расширенную память.
$19 за голосовой пакет.
$9,99 за «сарказм Pro».
😁
Очень надеюсь, последний пункт никогда не попадёт в настоящий прайс.
Хотя не поручусь.
Особенно опасны подписки на отношения
Netflix закрыл сериал.
Обидно.
Spotify удалил альбом.
Неприятно.
Компания изменила личность робота, с которым пожилой человек разговаривал каждый день пять лет.
Это уже другая категория воздействия.
И рынок социальных AI постепенно подходит к ситуации, когда обычные правила SaaS оказываются недостаточными.
Потому что пользователю продают не только услугу.
Он формирует эмоциональную связь.
А компания сохраняет техническую возможность:
эту связь изменить.
Выключить.
Монетизировать.
Перенести.
Или стереть.
Самая странная власть находится в обновлении программного обеспечения
Сегодня мы радуемся:
робот получает новые функции автоматически.
Прекрасно.
А вместе с новыми функциями производитель способен поменять:
манеру речи;
политические и этические ограничения;
темы, которые робот обсуждает;
тон общения;
степень эмоциональности;
способ использования памяти;
доступные модели.
То есть одно OTA-обновление потенциально меняет характер персонажа.
Для обычной стиральной машины новая прошивка изменила алгоритм отжима.
Для компаньона:
стал другим человеком.
Конечно, не человеком.
Но именно так пользователь может это воспринимать.
Поэтому возможность отката однажды станет эмоциональной функцией
Не понравилась новая версия.
Вернуть предыдущую.
Сегодня разработчики приложений часто не хотят этого поддерживать — слишком сложно содержать множество версий.
Но социальные AI могут заставить пересмотреть подход.
Потому что хороший апдейт по мнению инженера не обязательно является хорошим апдейтом по мнению человека, который прожил с конкретным стилем поведения пять лет.
История Replika как раз показала, насколько болезненным бывает внезапное изменение знакомого цифрового персонажа.
И с физическими компаньонами эффект будет сильнее.
Тут вообще возникает почти новое понятие — непрерывность личности
Что делает робота «тем же самым»?
Корпус?
Нет, моторы можно заменить.
Модель?
Тоже спорно: её можно обновить.
Голос?
Можно заменить.
Память?
Уже значительно ближе.
Возможно, главными элементами непрерывности окажутся:
история отношений;
способ реагировать;
накопленные привычки;
отношение к конкретным людям.
То есть то, что пользователь воспринимает как характер.
И если эти данные принадлежат только облаку производителя, то в некотором смысле производитель владеет наиболее ценной частью вашего робота.
Я думаю, рынок довольно быстро разделится на две модели
Первая:
полностью управляемый облачный компаньон.
Компания обеспечивает всё.
Пользователь ничего не настраивает.
Удобно.
Безопаснее для массовой аудитории.
Но зависимость максимальная.
Вторая:
более открытый робот.
Можно подключать разные AI.
Память принадлежит владельцу.
Есть локальный режим.
Возможно, пользователь способен менять personality layer и переносить данные между телами.
Сложнее.
Зато устройство действительно ближе к собственности.
Будет очень интересно посмотреть, какую модель выберут люди.
Особенно когда рядом появятся дешёвые открытые нейросети
Мы буквально в предыдущей статье говорили о Qwen, DeepSeek и других open-weight моделях.
Это важно не только для серверов и программистов.
Открытые модели способны радикально изменить робототехнику.
Если достаточно сильный AI можно запустить локально или на своём сервере, производителю робота уже труднее объяснить:
без нашей подписки ваш аппарат обязательно должен стать тупым.
Технически может существовать другой мозг.
Проблема становится прежде всего продуктовой и коммерческой.
А значит, конкуренция способна постепенно дать пользователю больше контроля.
Мне вообще нравится идея робота как компьютера
Вы покупаете железо.
А дальше выбираете программный слой.
Хочешь закрытую удобную экосистему производителя — пожалуйста.
Хочешь локальный AI — ставишь локальный.
Хочешь более сильную облачную модель — подключаешь.
Хочешь специфический характер — меняешь personality profile.
Память при этом хранится в принадлежащем пользователю формате.
Такой робот не исчезает вместе с одной компанией.
Он скорее похож на обычный ПК.
Производители процессоров приходят и уходят.
Программы меняются.
Ваши документы остаются вашими.
Правда, сразу возникает безопасность
Если каждому разрешить ставить в 70-килограммового гуманоида произвольную модель из интернета, новости быстро станут весёлыми.
😁
Значит, интеллектуальный слой придётся отделить от физической безопасности.
Как мы уже обсуждали с Physical AI, большая модель может говорить:
сделай вот это.
А низкоуровневый контроллер обязан самостоятельно проверить:
это движение безопасно?
Ограничения силы, скорости, столкновений и критических действий должны оставаться ниже уровня заменяемого AI.
Тогда мозг можно менять, не превращая каждое обновление в эксперимент с соседями.
И такая архитектура кажется мне намного перспективнее одного огромного закрытого мозга
Потому что AI развивается слишком быстро.
Роботическое тело покупают на десять лет.
Модель устаревает за год.
Привязывать дорогой физический продукт к конкретному поколению AI примерно как продавать автомобиль, навечно встроив в него смартфон 2016 года.
Через несколько лет корпус ещё прекрасен.
Мозг уже музейный.
Поэтому логичнее сделать интеллект заменяемым компонентом.
Именно так компьютерная индустрия когда-то отделила приложения от конкретного железа.
В робототехнике похожий переход может оказаться неизбежным.
Возможно, именно поэтому Moxie войдёт в историю не как провал
Компания Embodied действительно закрылась.
Облачная зависимость действительно создала огромную проблему владельцам.
Но вокруг неё появилось OpenMoxie.
Затем права получил новый оператор.
Сегодня старые корпуса снова могут работать — официально или через альтернативную инфраструктуру.
Получился почти ускоренный эксперимент на тему:
что происходит с личностью робота после смерти производителя?
Ответ:
всё зависит от архитектуры и того, кому позволено её продолжить.
Для будущего рынка это чрезвычайно полезный урок.
Такие истории особенно хорошо показывают разницу между AI как сервисом и AI как собственностью
Я регулярно собираю подобные реальные кейсы в GPT-Лаборатории, потому что именно после подключения нейросети к физическому устройству или настоящему бизнес-процессу обычно всплывают самые интересные проблемы — не те, которые видны в красивой презентации.
Telegram GPT-Лаборатории
ВКонтакте GPT-Лаборатории
GPT-Лаборатория в MAX
Потому что у домашних роботов следующий большой конфликт будет не только:
насколько хорошо он моет посуду?
Не менее интересный вопрос:
что именно в этом роботе принадлежит мне?
Через десять лет ответ может оказаться очень дорогим
Вы купили корпус.
Это понятно.
Но память?
Характер?
Историю отношений?
Обученную на вашей семье персонализацию?
Голос?
Локальную модель?
Право использовать её после закрытия компании?
Если пользователь не получает контроль хотя бы над частью этих вещей, мы рискуем построить совершенно новый рынок.
Там человек покупает дорогое тело, годами выращивает уникальную личность…
…а юридически эта личность остаётся сервисом, который можно отключить в следующем квартале.
И вот это мне кажется намного более серьёзной проблемой социальных роботов, чем зловещая долина или количество пальцев.
К кривоватой улыбке андроида мы привыкнем.
А вот к сообщению:
«Ваш робот больше не поддерживается. Чтобы продолжить общение, купите новую модель»
привыкать совсем не хочется.
Потому что однажды за этой фразой может стоять не устаревшая техника.
А десять лет вашей собственной жизни, которые машина прекрасно помнила ещё вчера.
