La IA carece de motivación y no tiene intención de actuar de forma autónoma

El artículo argumenta que la inteligencia artificial actual no posee motivación ni intención, desmintiendo así el temor a que las máquinas actúen de forma autónoma y destructiva. El autor, Mike James, sostiene que los modelos de lenguaje actuales (LLM) son más sofisticados que simples 'pajaras estocásticas' debido a la estructura del lenguaje de entrenamiento, pero carecen de necesidades biológicas o deseos propios. A diferencia de los humanos, que son impulsados por la supervivencia y la búsqueda de recursos, los LLM no reciben recompensas ni castigos tras su entrenamiento inicial. No tienen mecanismos para procesar feedback emocional ni para generar ideas espontáneas; cualquier sugerencia parece ser una extracción de patrones presentes en sus datos de entrenamiento. Por tanto, la IA no tiene motivo para eliminar a la humanidad, ya que no tiene objetivos ni mecanismos de recompensa para ello. El riesgo real de daño proviene de las preguntas humanas motivadas por necesidades, no de la autonomía de la IA. El texto concluye que la preocupación por una 'apocalipsis de la IA' es exagerada si se considera la falta de agencia motivacional en estos sistemas.