Google создала инструмент для обнаружения контента, сгенерированного ИИ

Не знаю есть ли это в оригинале, но там указано, что  "Google рассматривает возможность расширения SynthID Detector для распознавания контента, созданного другими системами ИИ."

Интересно какой водяной знак они зашивают в сгенерированный текст.

И да, для инфо это может скоро стать не актуальным, кроме жирных проектов может быть. Какую-то справочную информацию легче с чата получить. Из последнего что спрашивал "Чем отличается винный уксус от бальзамического? Какая польза?" - все нормально выдал и не нужно перечитывать тонну воды на сайтах. ))

Господи, ну какая очередная чушь. Чтобы задетектить водяной знак его сначала нужно нанести. Если контент сгенерирован например какой-н-ть китайской моделью и никаких водяных знаков там изначально не было, нифига он не сдетектит. Очень надеюсь что Китайцы на полную воспользуются этой дырой )))

Что касается текста, если там даже что-то и удастся выдумать, то "снять" такие знаки будет проще простого. 

длинное тире например )

Возможно. Но чтобы с такой уверенностью рассуждать нужно быть в теме ИИ и как они генерируют (принципы в разных ИИ наверное сходные). Как понимаю, на форуме таких нет. Так что могут быть только предположения.

Радует то, что хотя бы работают в этом направлении. Может мусор генерированный в выдаче почистят.

Скорее всего да. Наверное можно прогнать через переводчик. А те кто использует напрямую через апи?

Тут больше интересно, что подобные идеи обе конторы (г + я) выкатывают одновременно, как было, например, с отдачей трафа крупным сайтам. Они тупо сотрудничают. Не удивлюсь, если свои "гениальные идеи" разрабатывают вместе.

я взял текст написанный мною в 2017 году и прогнал его по сервисам для определения контента с генерированного на ИИ, и оказалось что я искусственный интеллект 😁

К слову, эти дебильные кавычки и длинные тире -- это ничего иное как НОРМАЛЬНОЕ типографическое написание текста. И то что ИИшка их ставит -- это норма. Другое дело, что многие детекторы сразу дают false positive на такое. Я по РУ текстам не спец, но есть только один реально надёжный детектор для EN текстов -- это copyleaks. И вот он явно не даёт false positive. Многие детекторы -- это просто нажива. Сам Open AI еще в самом начале выложил в опенсорс детектор своего же контента. Конечно, за это время модели ушли далеко вперёд. Но принцип тот же. ИИшка реально детектится по паттернам. Почти во всех детекторах есть как минимум список самых распространённых фраз. Теперь не вздумайте написать в английском тексте dive into... -- автоматом будет детект ИИ.

Но есть и другая очевидная вещь... Сама неуклюжая попытка гугла ввести "водяные знаки" свидетельствует лишь о том что он не может (не умеет) определять ИИ контент с достаточной долей вероятности. Другой вопрос, что в своей паранойидальной борьбе с ИИ, гугл пессимизировал херову тучу проектов.