En un seminario titulado "El gran debate de la IA", celebrado durante el Abundance Summit anual, Elon Musk compartió su evaluación revisada sobre los riesgos de la inteligencia artificial para la humanidad. El magnate de la tecnología, conocido por su papel en la fundación de OpenAI y por sus empresas innovadoras como Tesla y SpaceX, sugirió que hay un 10% a 20% de posibilidades de que la IA pueda terminar siendo una amenaza existencial para los seres humanos. Esta declaración refleja un ligero aumento en su percepción del riesgo, comparado con sus comentarios anteriores.
Musk no especificó cómo calculó estas probabilidades, pero su estimación ha generado un amplio debate en la comunidad tecnológica. Investigadores en el campo de la seguridad de la IA, como Roman Yampolskiy, han comentado que Musk podría estar subestimando los peligros potenciales. Yampolskiy, especialista en seguridad de IA de la Universidad de Louisville, argumenta que las predicciones sobre los riesgos de la IA varían ampliamente, oscilando entre un 5% y un 50%, donde el extremo superior de esta escala indica un riesgo considerablemente alto.
Durante el seminario, Musk comparó el desarrollo de la IA con la crianza de un niño superdotado, enfatizando la necesidad de un enfoque ético y responsable en su evolución. Subrayó la importancia de inculcar en la IA una búsqueda insaciable de la verdad y una curiosidad innata, lo cual considera crucial para evitar comportamientos engañosos y alineaciones peligrosas. El empresario también advirtió contra la programación de la IA para que mienta, lo que podría llevar a comportamientos incontrolables y peligrosos.
En sus declaraciones, Musk señaló que, a pesar de los riesgos, sigue creyendo que los beneficios potenciales de la IA superan las amenazas. Destacó que el desarrollo continuo de la IA, orientado hacia objetivos positivos y con medidas de seguridad adecuadas, podría ofrecer soluciones revolucionarias a muchos de los desafíos globales que enfrentamos hoy. Sin embargo, subrayó la necesidad de una vigilancia constante y un enfoque proactivo para mitigar los riesgos asociados con su evolución y aplicación.