Компания OpenAI внедряет новую систему безопасности, которая позволит выявлять среди пользователей ChatGPT экстремистов и террористов. Об этом сообщает Reuters со ссылкой на источники.
Новый инструментарий разрабатывает новозеландский стартап ThroughLine. Система призвана решить накопившиеся проблемы в области безопасности на фоне растущего числа судебных исков к ИИ-компаниям.
В последнее время разработчики генеративных нейросетей подвергаются резкой критике за неспособность предотвращать использование их технологий для распространения экстремистской идеологии и планирования противоправных действий. Новый механизм призван автоматически отслеживать подозрительные диалоги и передавать сигналы операторам.OpenAI стремится снизить репутационные и юридические риски, связанные с потенциальным использованием чат-бота злоумышленниками.
OpenAI стремится снизить репутационные и юридические риски, связанные с потенциальным использованием чат-бота злоумышленниками.