Технології

OpenAI планує додати невидиме маркування текстів ChatGPT і Codex у ЄС

Коротко

Компанія оголосила поетапне впровадження textGrain; для клієнтів API функція буде опційною.

OpenAI 5 жовтня оголосила, що протягом наступних тижнів додасть невидимі водяні знаки до підтримуваних текстових відповідей ChatGPT і Codex у Європейському Союзі. Про нововведення пише РБК-Україна; офіційна заява компанії уточнює, що це поетапне впровадження, яке ще має відбутися.

Технологія textGrain додає статистичний сигнал у вибір слів моделлю. За повідомленням OpenAI, клієнти API в усьому світі можуть самостійно ввімкнути маркування для окремих моделей; за замовчуванням воно вимкнене.

Доступ до інструмента виявлення спочатку отримуватимуть лише схвалені дослідники й експертні організації. Компанія застерігає, що короткі або сильно відредаговані тексти складніше перевіряти, а детектор може помилятися. Наявність маркера не підтверджує правдивості тексту, а його відсутність не доводить людського авторства.

Джерела