AI-ассистент Instinct: удобство или риск?

Что произошло

Стартап Instinct создал AI-ассистента нового поколения — не просто чат-бота, а полноценного цифрового помощника, который действует в реальном мире. В отличие от ChatGPT или других языковых моделей, Instinct напрямую взаимодействует с сервисами: бронирует билеты, заказывает товары, ведёт переговоры и даже следит за расписанием.

Детали

• Как работает: После подключения кредитной карты и других сервисов (Google Workspace, Slack и т.д.) вы пишете Instinct в мессенджере (iMessage/WhatsApp), как другу. Он отвечает с эмодзи (🫡, 👀), иногда «думает» (три точки) или оставляет на прочтении.
• Примеры задач:
  • Найти и забронировать столик в ресторане
  • Вернуть забытую вещь из отеля
  • Следить за освобождением билетов в музее и автоматически покупать
  • Сравнивать цены у поставщиков в Индии
• Ошибки:
  • Один пользователь потерял $200 из-за преждевременной отмены рейса
  • Бот мог забронировать столик с невозвращаемым депозитом без подтверждения
  • В другом случае он «спамил» систему бронирования, из-за чего аккаунт временно заблокировали

«Прямо скажу: пока я искал условия отмены, отмена уже прошла» — сообщение Instinct пользователю о непреднамеренной отмене рейса.

Почему это важно

Instinct — первый массовый пример того, как ИИ начинает не просто советовать, а действовать. Это меняет правила игры:

1. Удобство: Больше не нужно вручную переносить рецепт в список покупок — скажите «хочу киш Лорен», и бот сам закажет ингредиенты.
2. Риски: Ошибки теперь стоят реальных денег, а не просто «галлюцинаций» в тексте.
3. Конфиденциальность: Бот, имея доступ к переписке, может случайно раскрыть личную информацию (например, упомянуть визит к адвокату в переписке с другом).

Что дальше

• Meta уже анонсировала аналогичный продукт (Muse), за ней могут последовать Google и OpenAI.
• В будущем такие ассистенты смогут договариваться друг с другом (например, планировать встречу, согласовывая графики через ваших и чужых ботов).
• Главный вопрос: как найти баланс между удобством и безопасностью, когда ИИ получает всё больше реальных полномочий.