“Padrino de la IA” advierte Inteligencia Artificial podría escapar del control humano
Redacción Internacional.- El famoso científico de la computación Geoffrey Hinton, apodado el “Padrino de la IA”, advirtió en una reciente entrevista que la inteligencia artificial podría escapar del control humano reescribiendo su propio código para automejorarse. Según Hinton, los avances acelerados en la tecnología de la IA podrían permitirles superar a los humanos en tan solo cinco años.
Hinton, ganador del Premio Turing 2018 por su innovadora labor en la IA y el aprendizaje profundo, renunció a su cargo de vicepresidente en Google en mayo para hablar libremente sobre los riesgos que plantea la IA. Aunque Hinton reconoce el beneficio significativo de la IA en industrias como la atención médica, también señaló el aumento de la desinformación favorecida por la IA, las imágenes y videos falsos en línea.
El científico instó a la necesidad de más investigación para comprender la IA, la implementación de regulaciones gubernamentales y la prohibición mundial de los robots militares potenciados por IA.
Además, Hinton y otros expertos en IA admiten que aún no comprenden completamente cómo funciona y evoluciona esta tecnología. Este problema fue mencionado por el CEO de Google, Sundar Pichai, como la “caja negra” de la IA. Según Hinton, los científicos desarrollan algoritmos para que los sistemas de IA extraigan información de conjuntos de datos. Estos algoritmos de aprendizaje interactúan con los datos y producen redes neuronales complejas, pero la forma exacta en cómo estos sistemas realizan sus tareas sigue siendo un enigma.
A pesar de estas advertencias, otros especialistas en IA como Yann LeCun, también galardonado con el Premio Turing y considerado otro “padrino de la IA”, minimizó las preocupaciones sobre la pérdida de control humano. LeCun consideró exageradas las advertencias acerca de que la IA podría reemplazar a la humanidad, argumentando que los humanos siempre podrían controlar cualquier tecnología que se vuelva demasiado peligrosa.
Durante una sesión en Capitol Hill el mes pasado, legisladores y ejecutivos tecnológicos como Pichai, Elon Musk, Sam Altman de OpenAI y Mark Zuckerberg de Meta discutieron ideas similares al hablar de la necesidad de balancear los reglamentos con políticas gubernamentales que favorezcan la innovación. Hinton subrayó la urgencia de implementar salvaguardas para la IA, ya sea por parte de las compañías tecnológicas o impuestas por el gobierno federal de los Estados Unidos.
Al reflexionar sobre el futuro de la IA en CBS “60 Minutes”, Hinton instó a los líderes tecnológicos y gubernamentales a tomar decisiones críticas acerca de si desarrollar aún más estas tecnologías y cómo protegerse en caso de hacerlo. Hinton concluyó que “estamos probablemente en una especie de punto de inflexión” y enfatizó la “enorme incertidumbre” sobre lo que sucederá a continuación.
