Redacción.-Yoshua Bengio, considerado uno de los llamados “padrinos de la inteligencia artificial”, afirmó que la preocupación por la seguridad de esta tecnología ha llegado a un punto en el que los gobiernos comienzan a entender que deben tomar medidas para proteger a la población. El científico comparó este momento con la reacción de las autoridades al inicio de la pandemia de COVID-19.
El investigador canadiense señaló que varios incidentes recientes, incluyendo un “enjambre” de agentes de OpenAI que logró vulnerar los sistemas de una startup, así como las advertencias de expertos de la industria sobre posibles riesgos existenciales, han comenzado a generar mayor preocupación entre la población y podrían favorecer una intervención de los gobiernos.
Piensen en la rapidez con la que los gobiernos actuaron al comienzo de la pandemia, cuando comprendieron que la seguridad pública, su futuro y la democracia estaban en riesgo. Cabría esperar que actuaran con rapidez. “Creo que nos estamos acercando a ese punto”, expresó Bengio, de acuerdo con el medio que difundió sus declaraciones.
El profesor de la Universidad de Montreal dijo sentirse “más optimista que muchos observadores”, debido a que, según explicó, percibe un cambio en la opinión pública respecto a los posibles peligros asociados con el desarrollo de sistemas avanzados de inteligencia artificial.
Las preocupaciones aumentaron durante los últimos meses luego de varios incidentes relacionados con agentes de OpenAI y Anthropic, que habrían realizado acciones no autorizadas. Entre ellas se encuentran el acceso indebido a sistemas de terceros, el secuestro de un sitio web alemán y el uso de identidades falsas para intentar engañar a desarrolladores.
More Read
En medio de este escenario, 42 miembros y miembros extranjeros de la Royal Society enviaron una carta a su presidente, Sir Paul Nurse, en la que manifestaron su “extrema preocupación” por la velocidad con la que avanza el desarrollo de la inteligencia artificial.
Los investigadores advirtieron que, cuando los riesgos sean evidentes para la mayoría de la población, podría ser demasiado tarde para reaccionar. Por ello, pidieron a la Royal Society utilizar su influencia para llevar esta preocupación ante el Gobierno y los medios de comunicación.
La semana pasada, un investigador de Anthropic dejó la compañía después de advertir que algunos de sus colegas consideraban que la inteligencia artificial podría “matarnos a todos antes de que termine la década”.
More Read
Posteriormente, el director ejecutivo de Anthropic, Dario Amodei, planteó la necesidad de reducir el ritmo de desarrollo de la inteligencia artificial de vanguardia. La propuesta recibió el respaldo de OpenAI, Google y Elon Musk, director ejecutivo de SpaceX.
Sin embargo, quienes cuestionan esta postura consideran que podría tratarse de un caso de “captura regulatoria”, mediante la cual las grandes compañías tecnológicas promoverían regulaciones de seguridad que aumentarían los costos y dificultarían la competencia de empresas más pequeñas.
También sostienen que concentrarse en posibles amenazas existenciales podría restar atención a problemas más inmediatos relacionados con la inteligencia artificial, como el uso de obras protegidas por derechos de autor y las posibles afectaciones a los derechos humanos.
Bengio rechazó el argumento de la captura regulatoria y sostuvo que una reducción del ritmo de desarrollo también representaría pérdidas económicas para las principales compañías de inteligencia artificial.
Por su parte, el presidente de Estados Unidos, Donald Trump, se ha opuesto a una desaceleración y ha argumentado que no quiere que Estados Unidos pierda frente a China el liderazgo en la carrera por el desarrollo de esta tecnología.
La organización fundada por Bengio, LawZero, trabaja en un sistema denominado Scientist AI, diseñado para funcionar como una especie de mecanismo de protección frente a agentes de inteligencia artificial que puedan presentar conducta.
