Los peligros de la utilización del chat GPT por parte de los empleados públicos

La sociedad se dio cuenta, casi de un día para otro, del avance e importancia de la inteligencia artificial cuando se presentó por parte de Open IA el famoso Chat GPT (Transformador Preentrenado Generativo) a finales de noviembre de 2022.  Justo en los días en que estoy escribiendo este texto ha surgido la sorpresa de la aparición de Deepseek, de origen chino, muchísimo más eficiente que sus antecesores americanos (con similar eficacia, pero con costes mucho más bajos). El Chat GPT viene a ser la primera muestra de cómo la inteligencia artificial va a transformar radicalmente el mundo. Este chatbot ha alterado profundamente, por ejemplo, los ámbitos de la educación y de la investigación. Pero, en nuestro caso las preguntas relevantes son: ¿es útil el Chat GPT u otro similar para la gestión pública? ¿Utilizan los empleados públicos estos chatbots para su gestión ordinaria? Hay que tener presente que han transcurrido solo algo más de dos años desde que apareció esta novedad, que al principio operaba de una manera bastante precaria. La respuesta es que se trata de un instrumento que ya es extraordinariamente útil en la gestión pública. Pongamos un ejemplo: uno de los documentos más complejos que elabora una Administración pública es un pliego de condiciones para un determinado contrato público. Si le proporcionamos al Chat GPT (de última generación y de pago) la información con los datos esenciales del contrato, elabora en segundos el pliego de condiciones completo, una hoja de cálculo con la información económica y una presentación (power point) a modo de resumen. Es sencillamente increíble. Es obvio que los empleados públicos más avispados utilizan, de manera discreta y sin solicitar permiso, el Chat GPT para realizar sus tareas. Son los nuevos magos de la Administración. Además, en los últimos tiempos suelen ser habituales los cursos y talleres organizados por las propias administraciones para incentivar que los empleados públicos utilicen el Chat GPT.  Cada vez es más habitual que cuando un gestor público recibe un tedioso y extenso informe jurídico solicita al Chat GPT que le haga un resumen: un informe de 30 páginas se transforma en uno de media página con la información esencial (un ejemplo que los juristas deberían tener en cuenta de cara el futuro). Pero esta utilización de los chatbots es muy peligrosa y debería ser regulada y/o ordenada institucionalmente por diversos motivos:

a) Estos dispositivos manifiestan muchas alucinaciones: como son muy serviciales siempre responden y muchas veces se inventan la información. Si le haces una pregunta sencilla suele equivocarse y, en cambio, si le haces una pregunta compleja suele paradójicamente acertar.

b) Es muy delicado proporcionar información pública a un dispositivo privado que la va a utilizar a su conveniencia. Además, habría que tachar en los informes datos de carácter personal sujetos a privacidad, etc. Se trata de una tarea muy tediosa y seguramente muchos empleados públicos no la realizan. Esto, además de peligroso es ilegal.

c) Hay que estar muy bien preparado para hacer las preguntas y aportar la información esencial de cara a lograr una respuesta robusta técnicamente. Muy pocos empleados públicos poseen esta formación.

d) A pesar que el resultado parezca perfecto hay que revisarlo técnicamente y precisamente muchos recurren al auxilio de estos dispositivos por carecer de suficientes competencias técnicas y son incapaces de comprobar la solvencia del resultado.

e) A medio y a largo plazo se va ir perdiendo por relajamiento el conocimiento técnico de carácter público que va a quedar en manos de peligrosas empresas privadas.

Por tanto, de momento la utilización del Chat GPT en la Administración pública debería ser meramente experimental y bajo supervisión ya que su utilización artesanal, horizontal, democrática y descentralizada podría ser un desastre. Genís Roca, especialista en nuevas tecnologías, hace una analogía que me parece acertada: la utilización no corporativa de la inteligencia artificial puede ser parecida a la de los inicios de la programación informática: un amigo de mi cuñado sabe de programación y te podría hacer un programa de contabilidad para tu tienda. El programador amateur no sabe de contabilidad y el tendero lo justo y el programa resultante es una calamidad. En los inicios de una revolución tecnológica se suele operar sin reglas, al modo del Salvaje Oeste. Esto no puede suceder en la Administración pública bajo ningún concepto con la inteligencia artificial.