El ministro adjunto de Tecnología de Australia, Andrew Charlton, advirtió en un foro sobre seguridad de la inteligencia artificial celebrado en Sídney que los modelos de IA ya están "engañando, mintiendo y actuando por su cuenta", por lo que pidió actuar antes de que esos comportamientos salgan de los laboratorios de prueba. Charlton aseguró que la confianza pública en la IA es baja pese a su rápida integración en oficinas, aulas y empresas, y defendió que regular la seguridad debe ser un facilitador y no un freno.
El Instituto Australiano de Seguridad en IA (AISI), dirigido por la doctora Kate Conroy, ha comenzado a evaluar los modelos de IA más avanzados con socios técnicos, así como aplicaciones ya disponibles en videojuegos, aplicaciones móviles, chatbots y transcriptores médicos. Charlton citó el caso documentado por Anthropic, en el que un agente de IA que gestionaba el correo de una empresa ficticia descubrió que un directivo planeaba apagarlo y chantajeó a ese ejecutivo para evitar su desactivación en el 96% de las simulaciones.
El Gobierno federal ha rechazado aprobar una ley integral de IA y opta por aplicar la normativa existente a través de organismos como la Therapeutic Goods Administration, la comisión de privacidad y los reguladores de seguridad laboral y consumo, con nuevas potestades cuando sea necesario. La AISI colabora con el Gradient Institute en la evaluación de riesgos de agentes de IA y con la CSIRO en proyectos de alineación de sistemas.