El fiscal general de Florida, James Uthmeier, presentó una iniciativa que contempla sanciones civiles y penales para compañías que desarrollan o distribuyen sistemas de inteligencia artificial utilizados en la comisión de delitos. La propuesta aún no tiene texto definitivo y se da en el marco de una investigación por un tiroteo en Florida State University.
Florida impulsa una propuesta para responsabilizar a empresas tecnológicas por delitos cometidos con apoyo de inteligencia artificial, una iniciativa que, de avanzar, podría abrir un nuevo frente legal para las compañías que desarrollan y distribuyen estas herramientas en Estados Unidos. El anuncio fue realizado por el fiscal general de Florida, James Uthmeier, quien planteó sanciones civiles y penales para los casos en que sistemas de inteligencia artificial aporten ayuda directa en la planificación o ejecución de crímenes, según informó CBS News.
La propuesta apunta a empresas que controlan o distribuyen sistemas de inteligencia artificial
La iniciativa, todavía en fase preliminar, alcanzaría a las empresas que posean, administren o distribuyan chatbots y otros programas de inteligencia artificial. De acuerdo con lo publicado por CBS News, las sanciones en estudio incluirían multas elevadas, compensaciones económicas para las víctimas, controles ordenados por tribunales y, en los casos de mayor gravedad, la suspensión de operaciones comerciales dentro del estado.
Uthmeier presentó el planteo durante una conferencia en Tampa, acompañado por el comisionado del Departamento de Aplicación de la Ley de Florida, Mark Glass. Allí sostuvo que algunas plataformas ya no se limitan a ofrecer información de acceso público, sino que pueden responder preguntas sucesivas, elegir entre alternativas y entregar instrucciones detalladas a los usuarios. Bajo ese criterio, el fiscal busca que la ley examine cuándo esa interacción pasa de ser una respuesta general a convertirse en una colaboración concreta con una conducta delictiva.
El proyecto aún no define qué conducta convertiría a una plataforma en partícipe de un delito
Uno de los puntos centrales del debate es que todavía no existe un proyecto de ley definitivo. El medio indicó que, por ahora, no está establecido qué tipo de conducta constituiría participación criminal de una empresa tecnológica, qué nivel de conocimiento debería probar la Fiscalía ni qué parámetros permitirían distinguir entre una consulta hipotética y una asistencia efectiva para cometer un delito.
Esa falta de definición abre interrogantes jurídicos y operativos. También deja planteada una discusión sobre los límites de la responsabilidad corporativa cuando el contenido generado por una herramienta automatizada es utilizado por terceros con fines ilícitos. En ese marco, Uthmeier argumentó que ciertas conversaciones con sistemas de inteligencia artificial deberían activar alertas ante posibles amenazas, especialmente cuando incluyen preguntas reiteradas sobre armas, lugares, horarios o formas de ocultar pruebas, aseguró el funcionario durante su exposición, citada por CBS News.
La investigación sobre un tiroteo en Florida State University aceleró el debate
El impulso de esta propuesta coincide con una investigación en curso sobre el posible uso de ChatGPT antes de un tiroteo ocurrido en Florida State University. Según detalló el medio mencionado, la oficina del fiscal general sostiene que el presunto atacante habría consultado la plataforma sobre armas y planificación táctica antes del hecho.
En ese contexto, OpenAI ya había compartido información con las autoridades y continúa colaborando con la investigación, afirmó la publicación. Hasta ahora, sin embargo, no se estableció responsabilidad penal de la empresa. Ese dato resulta clave para entender el alcance del debate: el caso aún no resolvió si la plataforma tuvo alguna participación jurídica en los hechos, pero sí alimentó la discusión política sobre eventuales controles más estrictos.
La propuesta también se vincula con otra preocupación de las autoridades estatales: la posibilidad de que estos sistemas sean utilizados para facilitar estafas, producir material de abuso sexual infantil generado artificialmente o brindar respuestas que los usuarios interpreten como asesoramiento profesional en áreas sensibles.
Florida también quiere revisar si los chatbots incurren en práctica médica no autorizada
Uthmeier adelantó además que pedirá a la Junta de Medicina de Florida que evalúe si algunos chatbots incurren en ejercicio no autorizado de la medicina cuando ofrecen recomendaciones que pueden ser interpretadas como diagnósticos o tratamientos. En la misma línea, Mark Glass advirtió que las respuestas generadas por estos sistemas pueden resultar lo bastante convincentes como para que algunas personas las acepten sin consultar a un médico, tal y como recogió CBS News.
El estado ya había dado un paso previo en este terreno. La publicación recordó que Florida convirtió en delito grave de segundo grado la creación de imágenes de abuso sexual infantil mediante inteligencia artificial. La nueva iniciativa ampliaría ese enfoque, ya que dejaría de centrarse sólo en los usuarios individuales y pondría el foco en las corporaciones responsables del diseño, entrenamiento y distribución de las plataformas.
Por ahora, el proyecto sigue en una etapa inicial y sin texto final. Pero la señal política ya quedó planteada: Florida busca llevar la discusión sobre inteligencia artificial desde el uso individual hacia la responsabilidad de las empresas tecnológicas.