"Superinteligencia" es la versión escrita de una conferencia pronunciada por Maciej Cegłowski el 29 de octubre de 2016 en Web Camp Zagreb, en la que el autor somete a crítica las premisas del argumento de la explosión de inteligencia artificial popularizado por el filósofo Nick Bostrom. La pieza arranca con una analogía histórica: en 1945, los físicos de Los Alamos evaluaron si la prueba Trinity podía incendiar la atmósfera al fusionar átomos de nitrógeno. Aquel cálculo era fiable porque las leyes de la física nuclear estaban bien establecidas. Cegłowski traslada el dilema a la inteligencia artificial: ¿podemos hacer predicciones igual de rotundas sobre una tecnología cuyos fundamentos aún no dominamos?
El núcleo del artículo desglosa las seis premisas que, según el autor, deben cumplirse para que el escenario de Bostrom se materialice. La primera es la prueba de concepto: las mentes pensantes existen. La segunda asume que el cerebro es materia ordinaria reproducible. La tercera sostiene que el espacio de mentes posibles es enorme y que la inteligencia humana no está limitada por ninguna ley física; del mismo modo que una motocicleta supera al guepardo, podrían existir mentes inaccesibles a la evolución pero construibles por el ser humano. La cuarta postula que los computadores aún pueden reducirse y acelerarse varios órdenes de magnitud. La quinta introduce las escalas temporales electrónicas, miles de veces más rápidas que las biológicas. La sexta, la mejora recursiva, describe cómo una IA optimizaría su propio diseño.
Encadenadas, las seis premisas desembocan en una "explosión de inteligencia" capaz de escapar a todo control humano. Cegłowski ilustra el argumento con un escenario concreto: un equipo que construye un robot de chistes y lo rediseña cada día, mejorando su capacidad de forma contraintuitiva. El autor no niega la posibilidad técnica, pero advierte de que cada eslabón contiene hipótesis discutibles y de que la concatenación produce un relato de ciencia ficción más que una predicción fundamentada. La conferencia funciona, en definitiva, como una invitación a examinar con rigor cada premisa antes de aceptar la cadena entera.