12 noticias
Un estudio reciente analiza las leyes de escalado del peso de datos en modelos de lenguaje (LM) de pesos internos y abiertos, identificando un comportamiento no monótono a medida que aumentan las escalas de los modelos. Los investigadores miden cómo la reducción de la pérdida en una secuencia de ent
La startup Magic ha presentado una actualización de su investigación en preentrenamiento de modelos de inteligencia artificial en la que afirma haber multiplicado por más de diez la eficiencia computacional de su receta frente a los principales modelos de código abierto disponibles. Según la compañí
En 1638, Galileo Galilei expuso en 'Diálogos sobre dos nuevas ciencias' un razonamiento geométrico que desmonta la posibilidad física de gigantes con forma humana. El argumento parte de una viga de roble: si se escala por un factor de 10, su sección transversal —y, por tanto, su resistencia— se mult
Las leyes de escalado clásicas (estilo Chinchilla) indican qué arquitectura entrenar fijando un presupuesto de FLOPs y minimizando la pérdida. Pero los clústeres no facturan FLOPs: facturan horas de GPU. Sheng Zha, junto con Soumajyoti Sarkar y Yuxin Tang, presenta en un nuevo artículo el marco MOSA
Paradigm, firma de investigación en criptomonedas, ha publicado un juego web y un explorador interactivo que modelan la economía de la mejora autorrecursiva de la inteligencia artificial (RSI, por sus siglas en inglés). La herramienta permite al usuario ponerse en la piel de un laboratorio de IA que
Xiaomi Robotics-1 es un modelo fundacional de robótica diseñado para resolver la escasez de datos que limita el escalado de las políticas de robots. La propuesta se inspira en la estrategia de los modelos de lenguaje: preentrenar a gran escala con datos abundantes y luego alinear con少量 datos de robo
Las empresas de inteligencia artificial están absorbiendo cerca del 70% de la oferta mundial de memoria informática de alta gama para alimentar sus modelos de lenguaje, lo que ha provocado un desabastecimiento y un encarecimiento de discos duros y portátiles de hasta un 50%. Los analistas prevén que
Gwern Branwen ha publicado una propuesta de investigación titulada 'Lean Software Scaling Laws' que plantea medir empíricamente cómo escala la perplejidad de los modelos de lenguaje grandes (LLM) de programación en función del tamaño del código fuente, tomando Lean como caso de estudio. La hipótesis
Las leyes de escalado son uno de los hallazgos empíricos más relevantes del aprendizaje profundo: describen cómo la pérdida de entrenamiento disminuye de forma predecible, siguiendo una curva de potencia, al aumentar el tamaño del modelo (N), el volumen de datos (D) y el cómputo (C). Su utilidad prá
Markov Biosciences, una startup con sede en San Francisco, defiende que la biología está a las puertas de su propio 'momento GPT'. Su fundador, Adam Green, sostiene que el campo de las células virtuales ha invertido excesamente en costosos datos de perturbación experimental, cuando lo que realmente
El ensayo «Human-like Neural Nets by Catapulting», publicado por el investigador y escritor Gwern en su blog personal, plantea una propuesta especulativa para desarrollar redes neuronales con un rendimiento comparable al del cerebro humano. La hipótesis central sostiene que las diferencias entre los
Este artículo de robot-daycare.com explora las leyes de escalamiento de los motores eléctricos y la inercia en los actuadores robóticos, un tema fundamental para el diseño de robots. El objetivo no es prescribir una solución específica, sino comprender los principios básicos que rigen el comportamie
