Substack против «клодфишинга»: как платформа борется с доверием к ИИ

Что произошло

Substack, платформа для независимых авторов, представила новые инструменты, которые помогут читателям определить, был ли текст написан человеком или создан с помощью ИИ. Это часть усилий платформы по борьбе с так называемым «клодфишингом» — ситуацией, когда читатели не могут понять, создан ли контент человеком или машиной.

Детали

Substack сотрудничает с Pangram, инструментом для обнаружения текстов, созданных ИИ. Пользователи смогут сканировать записи, комментарии и посты, чтобы узнать, сколько текста было написано вручную, а сколько — с помощью ИИ. Анализ будет доступен только для текстов длиннее 100 слов, опубликованных после запуска функции.

Авторы также получат возможность добавлять пояснения о процессе создания контента, например, как они используют ИИ в своей работе. Это поможет читателям лучше понимать, что они читают.

«Мы не против использования ИИ, но люди должны знать, что они получают», — отмечает Substack.

Почему это важно

Доверие между авторами и читателями — основа Substack. Когда контент создаётся без участия человека, это подрывает доверие и затрудняет поиск настоящих голосов. Читатели хотят знать, что за текстом стоит реальный человек с мыслями и эмоциями.

ИИ-тексты уже составляют до 40% контента на некоторых платформах, что вызывает обеспокоенность. Substack стремится избежать этой проблемы, предоставляя инструменты для прозрачности.

Что дальше

Substack планирует развивать свои инструменты, включая возможность настройки предпочтений по ИИ-контенту для сообществ и улучшения борьбы со спамом и ботами. Платформа также хочет дать читателям больше контроля над тем, что им рекомендуется.

Substack не выступает против использования ИИ, но подчёркивает, что важно сохранять прозрачность. Авторы могут использовать ИИ как инструмент, но читатели должны знать, что они получают.