{"id":406,"date":"2023-03-24T03:26:47","date_gmt":"2023-03-24T03:26:47","guid":{"rendered":"https:\/\/fysoweb.com\/blog\/?p=406"},"modified":"2025-12-16T04:27:46","modified_gmt":"2025-12-16T04:27:46","slug":"el-origen-de-chatgpt-como-se-crea-el-chatbot-general-mas-avanzado-hasta-la-fecha","status":"publish","type":"post","link":"https:\/\/fysoweb.com\/Blog\/2023\/03\/24\/el-origen-de-chatgpt-como-se-crea-el-chatbot-general-mas-avanzado-hasta-la-fecha\/","title":{"rendered":"El origen de ChatGPT: \u00bfc\u00f3mo se crea el chatbot general m\u00e1s avanzado hasta la fecha?"},"content":{"rendered":"\n\n\n\n

ChatGPT es un chatbot desarrollado por OpenAI (un laboratorio de investigaci\u00f3n de\u00a0inteligencia artificial<\/span><\/a>) con el que se puede mantener una conversaci\u00f3n parecida a la que se tendr\u00eda con un humano.\n\t\t\t<\/span><\/span><\/p>

El revuelo que ha causado en el mundo de los asistentes conversacionales no es para menos, ya que ChatGPT no solo puede responder a las preguntas de los usuarios, sino que adem\u00e1s tambi\u00e9n es capaz de escribir cuentos, ensayos o art\u00edculos cient\u00edficos, entre otras cosas.\n<\/span><\/p>

\u00bfC\u00f3mo es esto posible? \u00bfCu\u00e1l es la tecnolog\u00eda detr\u00e1s de este gran asistente conversacional? Sigue leyendo y te lo contamos.\u00a0\n<\/span><\/p>

\u00bfC\u00f3mo funciona ChatGPT?\n<\/span><\/p>

ChatGPT est\u00e1 basado en\u00a0un modelo de lenguaje que se llama GPT-3.5<\/strong>, o\u00a0Generative Pre-Trained Transformer<\/em>.\u00a0\n<\/span><\/p>

GPT-3.5 es uno de los modelos de lenguaje m\u00e1s conocido en el mundo del procesamiento del lenguaje natural (NLP), junto con BERT, que han sido entrenados de forma masiva y han dado muy buenos resultados en sus respectivas tareas.\n<\/span><\/p>

Los modelos de lenguaje est\u00e1n basados en inferencia estad\u00edstica: son una distribuci\u00f3n de probabilidad de palabras o grupos de palabras. En otras palabras, se usan\u00a0t\u00e9cnicas de predicci\u00f3n estad\u00edsticas y probabil\u00edsticas<\/strong>\u00a0para determinar qu\u00e9 probabilidad hay de obtener una secuencia de palabras en una frase. Por ejemplo, se usan modelos de lenguaje cuando WhatsApp te sugiere varias palabras que podr\u00edas usar cuando est\u00e1s enviando un mensaje.\n<\/span><\/p>

En general, se dice que estos tipos de modelos de lenguaje se “entrenan” con datos. Esto significa que se les proporciona grandes cantidades de datos para que los modelos del lenguaje (en particular, los modelos neuronales) puedan extraer todo tipo de informaci\u00f3n.\u00a0\n<\/span><\/p>

Para que puedan trabajar con el lenguaje, los modelos de lenguaje transforman las palabras o frases de lenguaje natural a vectores y matrices. As\u00ed, pueden realizar operaciones matem\u00e1ticas entre ellos.\u00a0\n<\/span><\/p>

Existen de varios tipos de modelos de lenguaje, pero, tanto GPT-3.5 como BERT, son modelos de lenguaje neuronales basados en transformers.\n<\/span><\/p>

\n\u00a0<\/p>

\"\"\/\n\t\t<\/span><\/p>

\n\u00a0<\/p>

\"\"\/\n\t\t<\/span><\/p>

\u00bfQu\u00e9 son los transformers?\n<\/span><\/p>

Los transformers son un tipo de modelo de lenguaje neuronal. Es decir, modelos que se basan en t\u00e9cnicas de machine learning que\u00a0imitan la estructura de un cerebro gracias a conexiones entre nodos o neuronas<\/strong>.\u00a0\n<\/span><\/p>

A grandes rasgos, los modelos neuronales est\u00e1n formados por diferentes capas, entre las cuales se producen una serie de operaciones matem\u00e1ticas o “conexiones”.\u00a0\n<\/span><\/p>

A diferencia de otras redes neuronales, los transformers usan\u00a0self-attention<\/em>. La\u00a0self-attention<\/em>\u00a0es un mecanismo mediante en cual los transformers prestan atenci\u00f3n a diferentes partes de una frase para crear conexiones entre ellas.\u00a0\n<\/span><\/p>

De esta manera, estos modelos pueden entender mejor una palabra fij\u00e1ndose en aquellas palabras relevantes que la rodean. Se puede decir que los transformers recogen el contexto de las palabras de una misma frase y, de este modo, pueden entender mejor el significado.\u00a0\n<\/span><\/p>

Adem\u00e1s, tambi\u00e9n tienen una estructura \u00fanica de encoder-decoder, diferente a los modelos del lenguaje creados anteriormente.\n<\/span><\/p>

\n\u00a0<\/p>

\n\u00a0<\/p>

\u00bfQu\u00e9 puede hacer GPT-3.5?\n<\/span><\/p>

GPT-3.5 ha dado unos resultados muy buenos en muchas tareas de\u00a0procesamiento del lenguaje natural (NLP)<\/span><\/a>.\u00a0\n<\/span><\/p>

Algunas de las tareas que realiza son las siguientes:\u00a0\n<\/span><\/p>