Papel y plumón todavía pueden engañar a la Inteligencia Artificial

Los investigadores del laboratorio OpenAI han descubierto una limitación para su tecnología de reconocimiento por Inteligencia Artificial.

No se trata de un sistema muy complejo, sino todo lo contrario. Un papel y un plumón pueden despistar a la tecnología de punta.

Ataques tipográficos

OpenAI llama así a la capacidad de confundir a su sistema de reconocimiento con texto simple superpuesto a una imagen.

El sistema reconoce con un 85.6% de exactitud una manzana tipo Granny Smith, pero con un texto superpuesto de “iPod”, pasa a indicar con un 93.7% de certeza que se trata de un iPod.

El problema está en que los sistemas de reconocimiento están optimizados en leer textos, lo que se superpone a las imágenes.

También puede ser digital

En otra sección, OpenAI muestra cómo un símbolo insertado digitalmente puede cambiar totalmente lo reconocido.

Un poodle sindicado como “Standard poodle” con un 39.3% de certeza se vuelve una alcancía al 52.5% cuando se insertan símbolos de dólares ($$$).

OpenAI indica que es un exploit a la “neurona financiera”, que responde precisamente a esos signos.

Te recomendamos METADATA, el podcast de tecnología de RPP. Noticias, análisis, reseñas, recomendaciones y todo lo que debes saber sobre el mundo tecnológico. Para escucharlo mejor, #QuedateEnCasa.