El CEO de Microsoft AI, Mustafa Suleyman, advierte sobre la carrera descontrolada hacia la superinteligencia artificial y apuesta por una “superinteligencia humanista”

El CEO de Microsoft AI, Mustafa Suleyman, ha vuelto a advertir sobre los peligros de una carrera desenfrenada hacia la superinteligencia artificial, el tipo de tecnología en la que Mark Zuckerberg y Meta están invirtiendo miles de millones de dólares. Sus declaraciones llegan pocos días después de la presentación del nuevo MAI Superintelligence Team, un grupo dedicado a crear sistemas de inteligencia artificial basados en un marco de “Superinteligencia Humanista”. Este enfoque prioriza la seguridad, la ética y los límites prácticos por encima de la autonomía total de la IA. Este movimiento marca un punto de inflexión para Microsoft, que ha alcanzado lo que Suleyman denomina “autosuficiencia en IA”. Durante su asociación con OpenAI, Microsoft estaba limitada por contratos que restringían el tamaño de los modelos que podía entrenar, medidos en FLOPS (operaciones de coma flotante por segundo). Ahora, con esas restricciones eliminadas, Microsoft tiene libertad total para desarrollar modelos de nueva generación utilizando su propia infraestructura, lo que representa un cambio estratégico importante en sus ambiciones dentro del mundo de la inteligencia artificial. La filosofía de Suleyman contrasta con la narrativa actual de la industria, que busca alcanzar la llamada Inteligencia Artificial General (AGI) a cualquier costo. Entre los objetivos principales de Microsoft destacan: A pesar de su visión optimista, Suleyman reconoce el dilema que inquieta a toda la industria tecnológica: El ejecutivo admitió abiertamente que “ningún desarrollador, investigador en seguridad o experto en políticas tiene una respuesta tranquilizadora a esa pregunta.” Suleyman también señaló que el enfoque de Microsoft puede ser más costoso o menos eficiente que otros con menos medidas de seguridad, pero insiste en que la seguridad a largo plazo es más importante que los beneficios inmediatos. Calcula que tomará “uno o dos años antes de que el equipo de superinteligencia produzca modelos de frontera.” Más allá de la tecnología, Suleyman también está desafiando las normas tradicionales de contratación en Silicon Valley. En una reciente publicación en redes sociales, expresó su preferencia por personas que asumen riesgos en lugar de aquellas que solo buscan resultados perfectos: El cofundador de DeepMind cree que la experimentación audaz —incluso con errores— fomenta la resiliencia y la creatividad que el futuro de la IA necesita.