Возвращаясь в калею тем обсасывания…
Возвращаясь в калею тем обсасывания всего про Искусственный интеллект - вопрос надо ли чтобы сделанное каким-то ии можно было легко отличить от сделанного человеком?
В идеале конечно мы хотим уметь это сделать, но явно же есть силы которые полностью наоборот хотят сделать чтобы определить это было не возможно. Это большая философская тема, типа а что если определить не возможно, то какая разница тогда? Но не будем забегать далеко вперёд, а посмотрим на конкретно нынешнюю ситуацию. Некоторые из нас (из людишек) массово клепают текстики с помощью чатажпт. И вот по началу было много спором можно ли такие тексты определить. Видимо по началу ещё было можно, сейчас уже нельзя. Слишком похожи на обычные, то есть в лоб, без пометки текста заранее отличить гарантированно нельзя. Тут скорее всего можно если его много, чисто по интуитивным ощущениям. Это как определять национальность человека по внешности. Когда один это крайне трудно, но если их пара дюжин, то уже легче.
С текстами (и картинками и музыкой и видео итп) ситуация такая - если это просто текст, без странностей, без необычностей, то для гарантии определения надо вставлять "водные знаки", то есть такие пометки которые обычный смотрящий не увидит и соответсвенно не сможет исправить, а увидит специальная программа.
Вот пишут, что у OpenAI уже готовые такие методы, просто они их вроде как не включили (даже не знаю можно ли им тут верить).
Старые пособы пометок типа дополнительные пробелы, замены некоторых букв на выглядящие также из других языков итп - уже не канает, это всё нынче слишком легко ловится. Они для этого ипользьют некие паттерны, в подборе слов, построении предложений итп. Человек это по идее не увидит, хотя мне кажется это вопрос, наши мозги могут начать это сечь на подсознании. Но если это так, то простой редактурой нескольких слов будет не обойтись для убирания этих пометок.
Далее конечно будет гонка между обнаружением и скрытием искусственности созданного. И почти всё что создаётся сейчас в будущем будет как раз определить легко. То есть все эти фотошопленные и подправленные фотки, ллмные тексты будут как минимум отмаркированы, что это всё не "оригиналы".
The Wall Street Journal — Exclusive | There’s a Tool to Catch Students Cheating With ChatGPT. OpenAI Hasn’t Released It.
The technology that is mired in internal debate can detect text written by artificial intelligence with 99.9% certainty.