OpenAI, firma stojąca za ChatGPT, twierdzi, że zbudowała detektor treści AI

Firma stojąca za ChatGPT, popularną platformą generatywnej AI, podobno stworzyła narzędzie, które może wykrywać treści generowane przez AI. Tak wynika z raportów The Wall Street Journal i zweryfikowane przez TechCrunch. Jednak jeszcze go nie wydali i rozważają, czy powinien zostać wydany.

Uruchomienie ChatGPT 30 listopada 2022 r. dało początek treściom generowanym przez AI. Studenci, marketingowcy, blogerzy i wiele innych osób zaczęło polegać na kilku monitach, aby generować znaczące treści przy minimalnym nakładzie pracy. Niedługo potem Google uruchomiło Bard, obecnie nazywane Gemini. Następnie pojawiły się inne generatywne platformy AI, tworząc ogromny szum wokół generatywnej AI.

Zaskakujące jest teraz to, że OpenAI, które pobiera od użytkowników 20 dolarów miesięcznie za dostęp do swojego najbardziej zaawansowanego modelu, planuje nadzorować stworzony przez siebie proces.

Na podstawie dostępnych informacji firma planuje umieszczać w generowanych przez siebie tekstach znaków wodnych, aby można je było łatwo wykryć. Podobnie jak obrazy i filmy są znakowane znakiem wodnym, planują znakować wodą tekst wygenerowany przez ich chatbota.

W ostatnich blogufirma stwierdziła, że ​​metoda tekstowego znaku wodnego jest „wysoce dokładna, a nawet skuteczna w przypadku miejscowych manipulacji, takich jak parafrazowanie”. Wyrazili jednak obawy, że „metoda tekstowego znakowania wodnego może potencjalnie nieproporcjonalnie wpłynąć na niektóre grupy. Może na przykład napiętnować wykorzystanie sztucznej inteligencji jako przydatnego narzędzia do pisania dla osób, dla których angielski nie jest rodzimym językiem”.

Czas pokaże, jak to się potoczy i jaki będzie odbiór społeczny.