Amazon detecta uso inflado de herramientas de IA por presión de metas
Los empleados de Amazon están utilizando una herramienta interna de inteligencia artificial llamada MeshClaw para automatizar tareas innecesarias, con el objetivo de aumentar su consumo deTokens y demostrar a sus gerentes que están utilizando la tecnología con mayor frecuencia, según revelan múltiples fuentes anónimas a medios especializados.
El rotativo económico Financial Times fue el primero en reportar esta situación, relayendo los testimonios de varios trabajadores quiénes aseguran que la presión por adoptar la IA ha aumentado significativamente tras la implementación de metas que exigen que más del 80% de los desarrolladores utilicen inteligencia artificial cada semana, además de la creación de tablas de clasificación internas que rastrean el consumo deTokens.
Según tres personas familiarizadas con el asunto citadas por ArsTechnica, el grupo con sede en Seattle ha comenzado a implementar ampliamente su producto interno MeshClaw en las últimas semanas, permitiendo a los empleados crear agentes de IA que pueden conectarse al software del lugar de trabajo y realizar tareas en su nombre.
Alguns empleados confirmaron que compañeros están utilizando el software para automatizar actividad de IA adicional e innecesaria simplemente para incrementar su consumo de Tokens, las unidades de datos procesadas por los modelos.
"Hay mucha presión para usar estas herramientas", declaró un empleado de Amazon al Financial Times. "Algunas personas simplemente están usando MeshClaw para maximizar su uso de Tokens".
Aunque Amazon ha comunicado a sus empleados que las estadísticas de Tokens de IA no se utilizarán en las evaluaciones de rendimiento, varios trabajadores aseguraron creer que los gerentes están monitoreando dichos datos. "Los gerentes lo están mirando", dijo otro empleado actual. "Cuando rastrean el uso, se crean incentivos perversos y algunas personas son muy competitivas al respecto".
Un representante oficial de Amazon negó声称存在公司范围内的AI使用指标或内部排行榜，并指出员工只能在自己的个人仪表板上查看自己的AI使用情况。 公司发言人强调MeshClaw由一个小团队构建，能够让数千名Amazon员工每天自动化重复性任务，从而解放时间用于更具战略性的工作和解决更大的客户问题。发言人还表示，公司安全团队正在进行安全测试和控制，以应对与AI工具相关的潜在风险。
这一情况发生在硅谷各大公司竞相展示生成式AI投资回报的背景下。FastCompany报道称，OpenAI和Anthropic等公司每周处理数十亿Tokens，而Meta和Shopify等公司则将员工的Token消耗纳入绩效考核。Google甚至要求非技术员工也在工作中使用人工智能。
这种做法被称为"Tokenmaxxing"，即鼓励员工尽可能频繁地使用AI，无论产出质量如何。部分Amazon员工对MeshClaw的高度自主权表示担忧，因为该公司使用了一种能够自主运行代码、分类邮件并与Slack等应用交互的工具。一名员工评论道："默认的安全态势让我感到恐惧，我不会让它随意行事。"