Geoffrey Hinton, pionero de la IA, expresa una creciente preocupación sobre el potencial destructivo de la IA. Advierte que la tecnología podría representar una amenaza existencial para la humanidad en las próximas tres décadas.
Considerado por muchos como el «padrino de la inteligencia artificial», el ganador del Premio Nobel de Física Geoffrey Hinton ha expresado una profunda preocupación sobre el futuro de la humanidad a la luz de los rápidos avances en el campo de la inteligencia artificial.
En declaraciones recientes el diario inglés The Guardian, el profesor de origen británico, Hinton ha aumentado significativamente su estimación de la probabilidad de que la IA provoque la extinción de la humanidad en los próximos 30 años.
Hinton, quien trabajó durante más de una década en Google antes de renunciar recientemente para poder hablar libremente sobre los riesgos de la IA, elevó su estimación de la probabilidad de extinción humana por la IA del 10% al 50%.
Esta declaración representa un cambio significativo en su perspectiva, reflejando una creciente preocupación ante el potencial destructivo de la tecnología que él mismo ayudó a desarrollar pero que no imaginó que se desarrollaría a la velocidad que lo hizo hasta hoy.
Como si se tratara del padre de la bomba atómica, dijo «me consuelo pensando que si no hubiera hecho esto, alguien más lo habría hecho», declaró Hinton, mostrando un cierto grado de remordimiento por su rol en el desarrollo de la IA.
La preocupación de Hinton se centra en el rápido desarrollo de sistemas de IA cada vez más poderosos y autónomos. Señala que estos sistemas podrían superar rápidamente la inteligencia humana, creando escenarios difíciles de predecir y controlar.
En concreto, menciona el riesgo de que la IA se convierta en una herramienta de guerra extremadamente eficiente, con consecuencias devastadoras para la humanidad. «La posibilidad de que esto suceda es lo suficientemente alta como para que debamos tomarlo muy en serio», afirmó, enfatizando la urgencia de la situación.
Además de la amenaza militar, Hinton destaca otros riesgos potenciales. Explica que la proliferación de imágenes y videos falsos generados por la IA podría inundar internet, haciendo imposible distinguir entre la realidad y la ficción, lo que podría tener consecuencias desastrosas para la sociedad. Señaló que el impacto de la desinformación generada por IA podría ser catastrófico.
«No es solo que la gente pueda creer cosas que no son ciertas. Es que podrían creer cosas que no son ciertas y causar daño», explicó.
Hinton aboga por una mayor regulación y un enfoque más cauteloso en el desarrollo de la IA. Su advertencia no se centra en la tecnología en sí misma, sino en la falta de control y la velocidad a la que esta está avanzando.
A pesar de sus preocupaciones, Hinton enfatiza que aún existe tiempo para actuar y mitigar los riesgos. Sin embargo, también advierte que la ventana de oportunidad para regular esta tecnología y prevenir un desastre se está cerrando rápidamente.
Su opinión es que, a menos que se tome acción inmediata y coordinada a nivel global, la probabilidad de una catástrofe se incrementará considerablemente.
«No estoy seguro de que podamos detenerlo», admitió Hinton, expresando un realismo inquietante sobre las dificultades del desafío. Su llamado a la acción es claro: la humanidad debe abordar este problema con la mayor urgencia posible antes de que sea demasiado tarde.