Si bien esta noticia no se origina en América, pueden tenerla en cuenta por aquí a la hora de desarrollar modelos de IA.
En la Universidad de Oxford se pusieron a experimentar entrenando IA generativas mediante otras IA del mismo estilo, y el resultado fue que se provocaron defectos irreversibles y contaminación de resultados con contenidos sin sentido.
Como si se tratara del mal resultado de una endogamia de IA.
Un contenido medio tonto.
El artículo publicado en Nature pone énfasis en la importancia de utilizar datos fiables para entrenar los modelos de IA, pues el uso de la misma IA para ese cometido puede provocar en pocas generaciones que el contenido original sea sustituido por “tonterías sin relación” con el original.
El ‘colapso del modelo', provocado por la contaminación de resultados producto del uso de datos generados por IA para entrenar a otras, puede generar un cúmulo de afectaciones que se reproducen como en bucle de generación en generación.
Eso refleja que aún una tecnología tan avanzada necesita del pensamiento original humano para su funcionamiento.
APA