El ‘padrino de la IA’, Geoffrey Hinton, lanza una advertencia de ‘bomba nuclear’: ‘Una persona común en la calle puede…’

Geoffrey Hinton, una figura destacada en inteligencia artificial (IA), ha expresado serias preocupaciones sobre el potencial dañino de esta tecnología. El reciente frenesí público por herramientas de IA como ChatGPT ha llevado a Hinton a pasar de acelerar el desarrollo de la IA a advertir sobre sus posibles riesgos. Ahora cree que la IA representa una grave amenaza para la humanidad, afirmando que la tecnología podría ayudar a cualquier persona a crear una bomba nuclear. Hinton describió un escenario escalofriante en el que la IA podría permitir a una persona común producir armas biológicas: “Una persona normal asistida por la IA pronto podrá fabricar armas biológicas y eso es terrible. Imaginen si una persona común en la calle pudiera hacer una bomba nuclear.” También habló sobre los peligros de la IA a nivel nuclear, su propio uso de herramientas de IA e incluso cómo un chatbot intervino en su reciente ruptura. Recientemente, Hinton advirtió que la IA podría superar las capacidades humanas, incluyendo la manipulación emocional, ya que puede aprender de grandes conjuntos de datos para influir en los sentimientos y comportamientos humanos más eficazmente que los propios humanos. La preocupación de Hinton surge de su convicción de que la IA es verdaderamente inteligente. Argumentó que, bajo cualquier definición del término, “la IA es inteligente.” Usando analogías, explicó que la experiencia de la realidad de una IA no es tan diferente de la humana: “Me parece muy evidente. Si hablas con estas cosas y les haces preguntas, entienden. Hay muy pocas dudas en la comunidad técnica de que estas cosas se volverán más inteligentes,” dijo. Sin embargo, no todos comparten la opinión de Hinton. Su antiguo colega y co-ganador del Premio Turing, Yann LeCun, actualmente jefe de científicos de IA en Meta, cree que los modelos de lenguaje grandes son limitados y no pueden interactuar significativamente con el mundo físico.