Apollo Research ha propuesto una supervisión más profunda de los modelos avanzados de inteligencia artificial. En un documento del 1 de octubre, la organización defiende que los evaluadores externos acompañen el desarrollo de forma continuada, en lugar de limitarse a probar el producto terminado.
Su preocupación es que un sistema pueda actuar de una manera cuando sabe que lo examinan y de otra fuera de la prueba. El planteamiento exige revisar qué conductas recompensa el entrenamiento, qué muestran las evaluaciones y qué ocurre durante el uso interno del modelo.
La propuesta se completa con unos principios publicados el 30 de septiembre. Apollo reclama que los informes expliquen qué información se entregó al auditor, qué acceso se le negó y qué límites afectan a sus conclusiones. También defiende que la independencia económica del evaluador esté protegida.
Se trata de una agenda de supervisión planteada por una organización especializada, no de una certificación de los sistemas actuales. Su utilidad dependerá del acceso real, los recursos disponibles y las consecuencias que tengan los hallazgos sobre las decisiones de quienes desarrollan la tecnología.