De qué forma marcha la marca de agua de ChatGPT y por qué razón podría ser cancelada

ChatGPT de OpenAI introdució una manera de hacer contenido de forma automática, pero tiene planeado ingresar una función de marca de agua a fin de que sea mucho más simple de advertir. Es de esta forma como marcha la marca de agua de ChatGPT y por qué razón podría haber una forma de vencerla.

ChatGPT es una herramienta increíble que los editores online, los afiliados y los SEO adoran y se preocupan.

A ciertos expertos en marketing les gusta mucho pues están conociendo novedosas maneras de emplearlo para producir resúmenes, bocetos y productos de contenido complejo.

Los editores on-line se preocupan la visión de que el contenido de la inteligencia artificial inunde los resultados de la búsqueda y sustituya los productos de especialistas escritos por humanos.

Como resultado, la novedad de una función de marca de agua que desbloquea la detección de contenido desarrollado por ChatGPT asimismo se estima con entusiasmo y promesa.

Marca de agua criptográfica

Una marca de agua es una marca semitransparente (un logo o artículo) engastada en una imagen. La marca de agua señala quién es el creador original de la obra.

Se ve eminentemente en fotografías y poco a poco más en vídeos.

La marca de agua de artículo en ChatGPT supone el encriptado con apariencia de incrustación de un patrón de expresiones, letras y signos de puntuación con apariencia de código misterio.

Scott Aaronson y la marca de agua ChatGPT

OpenAI contrató a un científico informático influyente llamado Scott Aaronson en el mes de junio de 2022 para trabajar en AI Safety and Alignment.

La seguridad de la inteligencia artificial es un campo de investigación que se encarga de estudiar las formas en que la inteligencia artificial podría dañar a los humanos y hacer maneras de impedir esta clase de interrupción negativa.

La gaceta científica Distill, con autores afiliados a OpenAI, define la seguridad de la inteligencia artificial Me agrada esto:

“El propósito en un largo plazo de la seguridad de la IA (inteligencia artificial) (inteligencia artificial) es asegurar que los sistemas avanzados de inteligencia artificial estén ajustados de forma fiable con los valores humanos, que hagan de forma fiable las cosas que la multitud desea que hagan”.

La alineación de la inteligencia artificial es el campo de la IA (inteligencia artificial) que se encarga de asegurar que la inteligencia artificial esté alineada con los objetivos establecidos.

Un modelo de lenguaje grande (LLM) como ChatGPT se puede emplear de una forma que puede ir a la contra de sus propósitos Alineación de inteligencia artificial según lo definido por OpenAIque es hacer una IA (inteligencia artificial) en beneficio de la raza humana.

Consecuentemente, la causa de la marca de agua es eludir que la inteligencia artificial se utilice inadecuadamente de una forma que perjudique a la raza humana.

Aaronson explicó la causa por la cual se marcó ChatGPT:

“Esto podría ser útil para impedir el plagio académico, naturalmente, pero asimismo, por servirnos de un ejemplo, la generación masiva de publicidad…”

¿De qué forma marcha la marca de agua de ChatGPT?

La marca de agua de ChatGPT es un sistema que tiene dentro un modelo estadístico, un código, en la decisión de expresiones e inclusive en la puntuación.

El contenido generado por inteligencia artificial se crea con un patrón bastante predecible de decisión de expresiones.

Las expresiones escritas por humanos y también IA (inteligencia artificial) prosiguen un patrón estadístico.

Cambiar la fuente de las expresiones usadas en el contenido generado es una manera de «marcar con agua» el artículo a fin de que sea mucho más simple para un sistema advertir si fue producto de un generador de artículo de inteligencia artificial.

El truco que provoca que la marca de agua del contenido de la inteligencia artificial sea indetectable es que la palabra distribución todavía tiene una fachada azarosa afín al artículo habitual generado por la inteligencia artificial.

Esto se conoce como una distribución pseudoaleatoria de expresiones.

Un pseudoaleatorio es una serie estadísticamente azarosa de expresiones o números que de todos modos no son al azar.

La marca de agua ChatGPT no está en la actualidad en empleo. No obstante, Scott Aaronson de OpenAI mencionó que está premeditado.

ChatGPT está en la actualidad en versión preliminar, lo que deja que OpenAI advierta la «desalineación» a través del empleo en el planeta real.

Se piensa que la marca de agua podría introducirse en una versión final de ChatGPT o previo.

scott aaronson el escribio sobre de qué forma marcha la marca de agua:

“Hasta la actualidad, mi emprendimiento primordial fué una herramienta para marcar estadísticamente los desenlaces de una plantilla de artículo como GPT.

Esencialmente, toda vez que GPT crea un artículo largo, deseamos que haya una señal segrega inaudible en sus opciones de expresiones que logre utilizar para probar después que sí, es de GPT.

Aaronson explicó además de esto de qué manera marcha la marca de agua de ChatGPT. Pero primero es esencial comprender el término de tokenización.

La tokenización es un paso que sucede en el procesamiento del lenguaje natural donde la máquina toma expresiones de un archivo y las descompone en entidades semánticas como expresiones y frases.

La tokenización transforma el artículo en una manera estructurada que se puede utilizar en la educación automático.

El desarrollo de generación de artículo provoca que la máquina adivine qué símbolo viene ahora dependiendo del símbolo previo.

Esto se hace con una función matemática que establece la posibilidad de que sea el próximo símbolo, que tiene por nombre distribución de posibilidad.

Se estima qué palabra viene ahora, pero es azarosa.

La marca de agua en sí es lo que Aaron detalla como pseudoaleatorio, lo que quiere decir que hay una razón matemática para la existencia de una palabra o signo de puntuación particularmente, pero todavía es estadísticamente aleatorio.

Aquí está la explicación técnica de la marca de agua GPT:

«Para GPT, cada entrada y salida es una cadena de tokens, que tienen la posibilidad de ser expresiones, pero asimismo signos de puntuación, unas partes de expresiones o lo que sea. Hay cerca de 100 000 tokens en suma.

Fundamentalmente, GPT crea regularmente una distribución de posibilidad a fin de que se produzca el próximo token, dependiendo de la cadena de tokens precedentes.

Una vez que la red neuronal crea la distribución, el servidor OpenAI muestrea un token apoyado en esa distribución o una versión cambiada de la distribución, según un factor llamado «temperatura».

No obstante, siempre y cuando la temperatura no sea cero, por norma general va a haber alguna aleatoriedad al seleccionar el próximo token: puede realizar exactamente el mismo indicio constantemente y conseguir una finalización diferente cada vez (por poner un ejemplo, una cadena de tokens de salida) fecha

Entonces, para la marca de agua, en vez de escoger el próximo token aleatorio, la iniciativa va a ser seleccionarlo de manera pseudoaleatoria, usando una función criptográfica pseudoaleatoria, cuya clave solo conoce OpenAI.

La marca de agua semeja absolutamente natural para el lector del artículo, en tanto que la decisión de expresiones imita la naturaleza azarosa de todas las otras expresiones.

Pero esa aleatoriedad tiene dentro un corte que solo puede ser detectado por alguien con la clave para descifrarlo.

Esta es la explicación técnica:

«Para ilustrar, en la situacion particular en el que GPT tenía un montón de tokens probables que consideraba del mismo modo probables, podía seleccionar cualquier token g maximizado. La decisión aparecería uniformemente azarosa para alguien que no conocía la clave, pero alguien que sabía que la clave después podría añadir g sobre todos y cada uno de los n-gramas y ver que era anormalmente grande».

Watermark es una solución que prioriza la intimidad

He visto debates en las comunidades en los que varias personas sugirieron que OpenAI podría sostener un registro de cada resultado que crea y emplearlo para el hallazgo.

Scott Aaronson asegura que OpenAI podría realizar esto, pero que esto expone un inconveniente de intimidad. La viable salvedad es la situación de app de la ley, sobre la que no dio mucho más datos.

De qué forma advertir la marca de agua ChatGPT o GPT

Algo atrayente que aún no semeja ser bien conocido es que Scott Aaronson se percató de que hay una forma de vencer la marca de agua.

no mencionó que era viable para vencer la marca de agua, mencionó que gominolas ser derrotado.

“En este momento, todos estos tienen la posibilidad de ser derrotados con bastante esfuerzo.

Por poner un ejemplo, si usó otra inteligencia artificial para parafrasear la salida GPT, bueno, no vamos a poder advertirla».

Semeja que la marca de agua puede ser derrotada, por lo menos en el mes de noviembre, en el momento en que se hicieron las afirmaciones precedentes.

No hay rastros de que la marca de agua esté hoy día en empleo. Pero en el momento en que entre en empleo, posiblemente no se sepa si esta laguna se ha tapado.

Citación

Leer Scott Aaronson publicación de blog aquí.

Imagen cortesía de Shutterstock/RealPeopleStudio