Cerrar Menú
Las opiniones de los blogueros son de su estricta responsabilidad y no representan la opinión de este portal.
Profile image

Ingrese o regístrese acá para seguir este blog.

Seguir este blog
Juan Mancera – Gerente de Operaciones y Tecnología en Certicámara

Uno de los retos más complejos de los Modelos Extensos de Lenguaje (LLM por sus siglas en inglés),  tipo chat GPT, están relacionados con el sesgo de sus respuestas. Si los datos que  son utilizados para entrenar los modelos son parciales o sesgados, los modelos pueden perpetuar y amplificar estos sesgos en las respuestas generadas.

En otras palabras: Estos modelos son tan buenos como los datos con los que son entrenados. Si los datos contienen sesgos, inexactitudes o información de baja calidad, los modelos pueden reflejar estas deficiencias y en última instancia, generar contenido problemático.

En general para resolver este reto podemos aplicar herramientas post- entrenamiento del modelo, en su proceso de afinamiento, si este fuera el camino a seguir aplicaríamos técnicas como RLHF (Reinforcement Learning From Human Feedback) o algoritmos como PPO (Proximal Policy Optimization), que buscan re-entrenar el modelo para hacerlo menos sesgado.

Otra aproximación menos compleja y costosa puede enfocarse en la cantidad, diversidad e integridad de los datos de entrenamiento para garantizar que estos modelos sean útiles y éticos. Más allá de la selección rigurosa de los datos, la calidad de los mismos o su revisión periódica un aspecto fundamental es la confianza en estas fuentes de datos.

La confiabilidad de las fuentes de datos es un pilar fundamental en la construcción de sistemas de IA que implementen el menor sesgo posible. Existe un creciente mercado por asegurar la confiabilidad de los datos para entrenamientos de modelos de IA y uno de los mecanismos más usados para la verificación y validación de estas fuentes de datos está relacionado con tecnologías de firma digital. Con el aumento de aplicaciones orientadas al entrenamiento y despliegue de modelos, se están comenzando a crear nuevos casos de uso para este tipo de herramientas que juegan un papel decisivo en la calidad de estos modelos de IA.

(Visited 11 times, 1 visits today)

Etiquetas

PERFIL
Profile image

Certicámara la empresa líder en Colombia en certificación digital y seguridad informática. Expertos en Derecho y tecnologías de la información con énfasis en seguridad de la información.

Más posts de este Blog

Ver más

Lo más leído en Blogs

1

La globalización es un fenómeno mundial, un concepto que apareció a finales(...)

2

Desde hace años las organizaciones han trabajado por promover y diseñar planes(...)

3

Construir tu propio ordenador a partir de componentes individuales de PC tiene(...)

0 Comentarios
Ingrese aquí para que pueda comentar este post
Reglamento de comentarios

PORTAFOLIO no se responsabiliza por el uso y tratamiento que los usuarios le den a la información publicada en este espacio de recomendaciones, pero aclara que busca ser la sombrilla de un espacio donde el equilibrio y la tolerancia sean el eje. En ese camino, disponemos de total libertad para eliminar los contenidos que:

  1. Promuevan mensajes tipo spam.
  2. El odio ante una persona o comunidad por su condición social, racial, sexual, religiosa o de situación de discapacidad.
  3. Muestren o impulsen comportamientos o lenguajes sexualmente explícitos, violentos o dañinos.
  4. Vulneren o atenten contra los derechos de los menores de edad.

Además, tenga en cuenta que:

  • - El usuario registrado solo podrá hacer un voto por comentario.
Acepto
¿Encontró un error?

Para PORTAFOLIO las observaciones sobre su contenido son importantes. Permítanos conocerlas para, si es el caso, tomar los correctivos necesarios, o darle trámite ante las instancias pertinentes dentro de nuestra compañía.


Debes escribir el comentario
¡Gracias! Tu comentario ha sido guardado
Su calificación ha sido registrada.
Su participación ya fue registrada.
Haga su reporte
Cerrar
Debe escribir su reporte.
Su reporte ha sido enviado con éxito.
Debe ser un usuario registrado para poder reportar este comentario. Cerrar