Un grupo de investigación apoyado por grandes empresas de Silicon Valley publicó un estudio que muestra que un avance acelerado de tecnología que puede generar noticias con aspecto realista desde poco más que una sugerencia de titular.
OpenAI, grupo respaldado por Reid Hoffman, fundador de LinkedIn, entre otros, se fundó para investigar cómo hacer que sean más seguras las herramientas de inteligencia artificial.
Se encontró, entre otras cosas, que computadoras que ya se usan para escribir notas breves a partir de comunicados de prensa, pueden ser configuradas para leer y escribir bloques de texto más largos -con mayor facilidad de lo que se pensaba.
Una de las cosas que el grupo mostró en el artículo es que su modelo es capaz de "escribir notas periodísticas sobre científicos que descubren unicornios capaces de hablar".
Los investigadores quieren que la comunidad científica empiece a discutir los posibles efectos negativos de la tecnología antes de publicar cada avance, de manera similar a cómo los físicos y genetistas nucleares consideran cómo su trabajo podría ser mal utilizado antes de hacerlo público.
"Parece que hay un escenario probable donde habría un progreso constante", dijo Alec Radford, uno de los coautores. "Deberíamos tener la discusión de: 'si esto continúa mejorando, ¿qué cosas hay que considerar?'".
- Te recomendamos Huawei completó la 'Sinfonía inacabada' de Schubert con un celular Tecnología
Los llamados modelos de lenguaje que permiten que las computadoras lean y escriban generalmente están "entrenados" para tareas específicas como traducir idiomas, responder preguntas o resumir texto. Esa capacidad a menudo viene con supervisión humana costosa y conjuntos de datos especiales.
El documento de OpenAI descubrió que un modelo de lenguaje de propósito general capaz de muchas de esas tareas especializadas se puede entrenar sin mucha intervención humana y aprovechando textos abiertamente disponibles en internet. Eso eliminaría dos grandes barreras para su desarrollo.
El modelo está a pocos años de funcionar de manera confiable y requiere de computación en la nube que es cara de armar. Pero ese costo podría bajar rápidamente.
mrf