OpenEvidence

OpenEvidence apareció para ayudar a los médicos a analizar la avalancha de investigaciones médicas y se propuso resolver el problema con inteligencia artificial y ahora el emprendimiento tiene una valoración de US$3.500 millones de dólares. Los algoritmos patentados del emprendimiento buscan en millones de publicaciones revisadas por pares, incluyendo revistas de prestigio como el New England Journal of Medicine y el Journal of the American Medical Association, para ayudar a los médicos a encontrar rápidamente las mejores respuestas, con citas completas de los artículos para que puedan leer más por sí mismos. El software es gratuito para médicos verificados y genera ingresos a través de la publicidad, de una forma similar a Google.

Desde su fundación en 2022, OpenEvidence ha logrado registrar al 40% de los médicos en Estados Unidos, es decir más de 430.000, y está incorporando nuevos a un ritmo actual de 65.000 al mes. Sus ingresos por publicidad alcanzan una tasa anualizada estimada en 50 millones de dólares. No es una cifra enorme, pero gracias a la rápida adopción del software, los inversionistas apuestan fuerte y ello ha permitido a OpenEvidence recaudar 210 millones de dólares con una valoración de 3.500 millones de dólares, frente a los 1.000 millones de dólares de su última financiación en febrero.

La falta de tiempo de los médicos

El problema que OpenEvidence aborda es inmenso y no hace más que crecer. La literatura médica prolifera a un ritmo vertiginoso —duplica su tamaño cada cinco años— a medida que se desarrollan nuevas opciones de tratamiento, como las terapias génicas, y los científicos aprenden más sobre cómo las diferentes enfermedades y fármacos pueden interactuar entre sí. Clasificarlas es una tarea titánica: algunos artículos son excelentes, otros son malos y muchos más están desactualizados. Con el uso de la IA para publicar y revisar artículos de investigación, el problema ha crecido. Mientras tanto, los médicos en muchos países tienen cada vez menos tiempo, dada la creciente escasez de profesionales médicos, lo que crea una oportunidad para que los emprendedores desarrollen tecnología que pueda ayudar a brindar una mejor atención y aliviar la presión sobre los médicos.

OpenEvidence no es la primera empresa en intentar dar sentido a la sobrecarga de publicaciones médicas; Wolters UpToDate de Kluwer lleva décadas en el mercado y recientemente ha incorporado IA, junto con el asesoramiento de expertos, buscando el mismo objetivo. Sin embargo, OpenEvidence es la primera empresa en desarrollar un software que integra IA desde el principio para facilitar a los médicos la búsqueda de respuestas a preguntas clínicas urgentes, con mucha mayor precisión que ChatGPT.

Volúmenes

Los médicos utilizan actualmente OpenEvidence en unos 8,5 millones de consultas al mes. Dado que la herramienta no se considera diagnóstica, no necesita la aprobación de la FDA como los algoritmos utilizados para detectar accidentes cerebrovasculares o sepsis en pacientes. Como los médicos pueden descargarla o usarla en línea de forma gratuita, puede evitar el largo y burocrático proceso de contratación con hospitales o grandes consultorios. Esto ha ayudado a la empresa a integrar médicos a un ritmo cada vez más rápidamente.

OpenEvidence en la aceleradora de la Clínica Mayo

A principios de 2023, OpenEvidence se unió a la prestigiosa aceleradora de la Clínica Mayo para emprendimientos de tecnología de la salud. Dicho programa permite a los emprendedores perfeccionar sus ideas —y su tecnología— en el hospital que, cuenta con el conjunto de datos más grande y de mayor calidad en el ámbito de la salud. Este negocio de información para los médicos es difícil y existen dudas sobre si la búsqueda basada en IA siempre dará la mejor respuesta. Al basarse en los «estándares de oro del conocimiento médico», muchos de los cuales no están disponibles en internet abierto más allá de los resúmenes, como JAMA y el New England Journal of Medicine, los modelos de clasificación de búsqueda del emprendimiento pueden extraer información confiable y relevante sobre una enfermedad rara o los efectos secundarios de un medicamento, manteniendo al mínimo las alucinaciones (la tendencia de la IA a inventar hechos).

Tener una referencia es un paso en la dirección correcta, pero no es suficiente. Si bien cualquier sistema de IA cometerá errores, debería haber muchos menos que con médicos que toman decisiones sobre 20 pacientes al día sin consultar fácilmente la literatura disponible.  Al mismo tiempo, está por verse el éxito del modelo publicitario de OpenEvidence. Las compañías farmacéuticas invierten mucho y ahora tienen la oportunidad de obtener información detallada sobre sus medicamentos frente a los médicos que probablemente los usen. Gracias a las respuestas patrocinadas, la compañía puede mantener la herramienta gratuita para los médicos, lo que ayuda a atraer a más profesionales clínicos y le permite ajustar su algoritmo.

A pesar de que el gasto publicitario en salud y farmacia ascendió a unos 30 000 millones de dólares en 2024, crear un negocio basado en publicidad es inusual en el sector de la tecnología de la salud, donde la mayoría del software se vende por suscripción. La herramienta demostró ser mucho mejor que un chatbot genérico como ChatGPT, sugiriendo preguntas de seguimiento sobre el historial médico del paciente y las pruebas que deben realizarse. Ahora está incursionando en el uso de los modelos de razonamiento, que analizan una tarea paso a paso, una táctica que, según los investigadores, mejora y hace más robustas las respuestas de la IA. Este mes, OpenEvidence lanzó una nueva función llamada DeepConsult, que utiliza esta técnica para conectar los puntos entre diferentes estudios y realizar análisis avanzados. Investigación sobre un tema en particular.

Se hace referencia a This AI Founder Became A Billionaire By Building ChatGPT For Doctors. También aparece en mi Portal . La imagen es cortesía de Copilot.

La entrada ¿Un buscador Google o un ChatGPT para médicos? aparece primero en Laszlo Beke.

IA puede ser un éxito absoluto en la educación

La Inteligencia Artificial se ha convertido en un tema y en un problema escolar. No todos los niños escribirán 800 palabras sobre «Don Quijote” cuando ChatGPT puede hacerlo por ellos. En Turquía y los Países Bajos, los experimentos con grandes modelos de lenguaje (LLM) para enseñar programación y matemáticas tuvieron resultados dispares: algunos alumnos se volvieron tan dependientes de los LLM que, al eliminarlos, obtuvieron peores resultados que sus compañeros que nunca los habían usado. Los profesores también han aprendido a hacer trampa y los estudiantes se quejan de que algunos educadores utilizan bots para generar retroalimentación genérica sobre su trabajo.

En los países desarrollados, la IA y otras herramientas de aprendizaje electrónico, generan desconfianza, y pueden todavía no haber demostrado ser mejores que la enseñanza tradicional. En los países más pobres, donde las aulas están masificadas y escasean los profesores, los materiales didácticos de bajo costo ofrecen una verdadera oportunidad. Uno de cada seis niños en el mundo vive en la pobreza extrema (con menos de 2,15 dólares al día). En países de ingresos bajos y medios, se estima que el 70 % de los niños de diez años no puede leer un cuento sencillo en ningún idioma. En África subsahariana, la cifra se acerca al 90 %. Un documento de trabajo publicado en mayo 2025 por el Banco Mundial sugiere que la IA podría ofrecer una solución parcial.  Por ello es impactante, un programa piloto en Nigeria que ayudó a estudiantes a lograr el progreso equivalente a dos años en seis semanas.

El estudio fue realizado sobre el programa piloto en Nigeria y siguió a 422 estudiantes de secundaria que participaron en 12 sesiones extraescolares de 90 minutos durante seis semanas. Parejas de alumnos, con el apoyo de un profesor, interactuaron con Microsoft Copilot, un chatbot basado en GPT-4, para mejorar su gramática, vocabulario y habilidades de escritura en inglés. Los resultados fueron sorprendentes: al final de las seis semanas, los niños del grupo de «seleccionado » para la IA habían logrado un progreso equivalente a casi dos años de escolarización regular. En general, las puntuaciones de las pruebas del grupo de IA fueron aproximadamente un 10 % superiores a las del grupo de control. En los exámenes de fin de curso, que abarcaron temas más allá del material del chatbot, obtuvieron mejores resultados que sus compañeros. (Las pruebas finales se realizaron con lápiz y papel; los resultados reflejaron el aprendizaje real de los niños, no su uso de la herramienta).

Esto podría deberse, en parte, a la baja calidad de la base de referencia. En todo el mundo, los niños suelen aprender menos de lo que implica su tiempo en la escuela. En promedio, los niños en Nigeria reciben diez años de escolarización a los 18 años. Sin embargo, sus resultados de aprendizaje equivalen aproximadamente a la mitad de lo esperado. Los hallazgos también deben considerar otras salvedades. El estudio no pudo aislar completamente el efecto del chatbot del tiempo adicional de estudio con un profesor. Además, ampliar la escala requeriría una conexión a internet estable y acceso a dispositivos, dos aspectos que no están garantizados. Aun así, el programa piloto superó en un 80% a más de 230 programas educativos en países de ingresos bajos y medios.

El mercado de los recién graduados afectados por IA

Para algunos recién graduados, el apocalipsis laboral de la IA ya podría estar aquí. La tasa de desempleo entre los recién graduados universitarios se ha disparado a medida que las empresas intentan reemplazar a los trabajadores de nivel inicial con inteligencia artificial. Este mes, millones de jóvenes se graduarán de la universidad y buscarán trabajo en sectores que tienen poca utilidad para sus habilidades, y que están eliminando rápidamente sus empleos en favor de la inteligencia artificial. El desempleo entre los recién graduados universitarios ha aumentado a un inusualmente alto 5.8% en los últimos meses, y la Reserva Federal de Nueva York advirtió recientemente que la situación laboral de estos trabajadores se había «deteriorado notablemente». El desempleo entre los recién graduados se concentró principalmente en campos técnicos como finanzas e informática, donde la IA ha avanzado más rápidamente.

Existe un lado positivo para los recién graduados, es que, al menos para algunos, la amenaza de la sustitución por la IA parece estar generando un interés positivo. Algunos jóvenes están utilizando su experiencia con la IA para destacarse frente a sus colegas de mayor experiencia, mientras que otros están evitando por completo las profesiones tradicionales de crecimiento corporativo.

La automatización en marcha

Las empresas están avanzando rápidamente hacia la automatización del trabajo de nivel inicial, donde se contratan recién graduados. Las empresas se apresuran a crear «trabajadores virtuales» que puedan reemplazar a los empleados junior a un costo mucho menor. La actitud corporativa hacia la automatización también está cambiando: algunas empresas han animado a los gerentes a priorizar la IA, comprobando si una tarea determinada puede ser realizada por IA antes de contratar a un humano. Una empresa había dejado de contratar a cualquier persona por debajo de un nivel de ingeniero de software L5 (un título de nivel medio que se otorga generalmente a programadores con una experiencia entre tres y siete años) porque las tareas de nivel inferior ahora podían ser realizadas por herramientas de codificación de IA. Otro emprendimiento emplea ahora a un solo científico de datos para realizar el tipo de tareas que requerían un equipo de 75 personas en su empresa anterior.

Por supuesto, hay múltiples factores detrás del aumento del desempleo entre los graduados universitarios en Estados Unidos, incluyendo una desaceleración de la contratación por parte de las grandes empresas tecnológicas y una mayor incertidumbre sobre las políticas económicas de la presente administración.

Muchos empleadores están pensando que si «Estas herramientas de IA son tan buenas que ya no necesito analistas de marketing, analistas financieros ni asistentes de investigación». Usar IA para automatizar trabajos administrativos ha sido un sueño para los ejecutivos durante años. Pero hasta hace poco, la tecnología simplemente no era suficiente. Se podía usar IA para automatizar algunas tareas rutinarias de back-office —y muchas empresas lo hacían—, pero cuando se trataba de las partes más complejas y técnicas de muchos trabajos, la IA no podía competir con los humanos. Esto está cambiando radicalmente, especialmente en campos como la ingeniería de software. Anthropic, la empresa de IA que creó el chatbot Claude, afirma que su modelo más potente, Claude Opus 4, ahora puede programar durante «varias horas» sin parar, una posibilidad tentadora si se trata de una empresa acostumbrada a pagar salarios millonarios a ingenieros por ese nivel de productividad. Las empresas de IA están empezando con la ingeniería de software y otros campos técnicos por cuanto allí es donde se encuentran las oportunidades más accesibles. Pero estas empresas creen que pronto se utilizarán las mismas técnicas para automatizar el trabajo en docenas de profesiones, desde consultoría hasta finanzas y marketing.

En ese aspecto hay dos tendencias preocupantes.

• En el afán por aumentar la productividad y mantenerse a la vanguardia, algunas empresas podrían estar recurriendo a la IA demasiado pronto, antes de que las herramientas sean lo suficientemente robustas como para gestionar todas las cargas de trabajo de nivel inicial.  Algunos ejecutivos apuestan a que los sistemas de IA mejorarán rápidamente, o a que el dinero que ahorrarían al contratar trabajadores virtuales en lugar de humanos compensará la insatisfacción de algunos clientes.
• Incluso si los empleos de nivel inicial no desaparecen de inmediato, la expectativa de que sean efímeros puede llevar a las empresas a invertir menos en capacitación laboral, mentoría y otros programas dirigidos a los trabajadores de nivel inicial. Esto podría dejar a estos trabajadores sin preparación para puestos más directivos en el futuro.

Se hace referencia a Can AI be trusted in schools? y For Some Recent Graduates, the A.I. Job Apocalypse May Already Be Here. La imagen es cortesía de Bing Image Creator.

La entrada ¡Se siente el impacto de la IA en la educación y el empleo! aparece primero en Laszlo Beke.

Aun cuando el mensaje era “Su radiólogo de IA no estará con usted pronto”, un estudio reciente del Colegio Americano de Radiología proyectó un crecimiento constante de la fuerza laboral hasta 2055. Aquí la tecnología tendría un impacto significativo, pero no como una destructora de empleos.

El mercado laboral

Informáticos, expertos laborales y legisladores llevan mucho tiempo debatiendo cómo se desarrollará la IA en el mercado laboral. ¿Será un asistente inteligente que mejore el rendimiento humano o un sustituto robótico que desplace a millones de trabajadores? El debate se ha intensificado a medida que la tecnología de vanguardia, detrás de los chatbots, parece estar mejorando más rápido de lo previsto. Los líderes de OpenAI, Anthropic y otras empresas de Silicon Valley predicen que la IA eclipsará a los humanos en la mayoría de las tareas cognitivas en pocos años. Pero muchos investigadores prevén una transformación más gradual, en línea con las invenciones trascendentales del pasado, como la electricidad o internet.

La prevista extinción de los radiólogos ofrece un caso de estudio revelador. Hasta ahora, la IA está demostrando ser una poderosa herramienta médica para aumentar la eficiencia y potenciar las capacidades humanas, en lugar de quitarle el trabajo a nadie. En lo que respecta al desarrollo e implementación de la IA, la radiología ha sido un objetivo prioritario de la tecnología. De las más de 1.000 aplicaciones de IA aprobadas por la Administración de Alimentos y Medicamentos (FDA) para su uso en medicina, aproximadamente tres cuartas partes se destinan a radiología. La IA suele destacar en la identificación y medición de anomalías específicas, como una lesión pulmonar o un bulto en el pecho. Ha habido un progreso asombroso, pero estas herramientas de IA, en su mayoría, buscan un solo objetivo: utilizar esta tecnología para mejorar.

Los radiólogos hacen mucho más que estudiar imágenes. Asesoran a otros médicos y cirujanos, hablan con pacientes, redactan informes y analizan historiales médicos. Tras identificar un grupo sospechoso de tejido en un órgano, interpretan su posible significado para un paciente con un historial médico específico, aprovechando años de experiencia. El rol del radiólogo es como «un médico para otros médicos», comunicando claramente los resultados de las imágenes, asistiendo y asesorando. Las predicciones de que la IA robará puestos de trabajo a menudo subestiman la complejidad del trabajo que las personas realmente realizan, al igual que los radiólogos hacen mucho más que leer exploraciones. Las herramientas de IA se han investigado, desarrollado y adaptado para adaptarse a las rutinas de trabajo de los médicos con mucha actividad.

Clínica Mayo en Rochester, Minnesota.

En lugares importantes y reconocidos, como la Clínica Mayo, la tecnología ha sido más aliada que enemiga. Hoy en día, los radiólogos —médicos especialistas en imágenes médicas que observan el interior del cuerpo para diagnosticar y tratar enfermedades— siguen teniendo una gran demanda. En la Clínica Mayo, en los últimos años, han comenzado a utilizar la IA para mejorar la nitidez de las imágenes, automatizar tareas rutinarias, identificar anomalías médicas y predecir enfermedades. La IA también puede servir como «un segundo par de ojos». En la Clínica Mayo, la plantilla de radiólogos ha crecido un 55 % desde el pronóstico catastrófico del Dr. Hinton, hasta alcanzar más de 400 radiólogos. En la Clínica Mayo decidieron invertir y hoy en día, el departamento de radiología cuenta con un equipo de IA de 40 personas, incluyendo científicos de IA, investigadores de radiología, analistas de datos e ingenieros de software. Han desarrollado una serie de herramientas de IA, desde analizadores de tejidos hasta predictores de enfermedades.

La IA está presente en todo el flujo de trabajo ahora. En general, la Clínica Mayo utiliza más de 250 modelos de IA, tanto desarrollados internamente como con licencia de proveedores. Los departamentos de radiología y cardiología son los principales consumidores. En algunos casos, la nueva tecnología abre la puerta a conocimientos que superan la capacidad humana. Un modelo de IA analiza datos de electrocardiogramas para predecir la mayor probabilidad de que los pacientes desarrollen fibrilación auricular, una anomalía del ritmo cardíaco. Un proyecto de investigación en radiología emplea un algoritmo de IA para discernir cambios sutiles en la forma y la textura del páncreas y detectar el cáncer hasta dos años antes que los diagnósticos convencionales. La IA también puede identificar automáticamente las imágenes que muestran la mayor probabilidad de un crecimiento anormal, básicamente informándole al radiólogo. Otro programa escanea imágenes en busca de coágulos de sangre en el corazón o los pulmones, incluso cuando el enfoque médico puede estar en otra parte.

Una médico, la Dra. Potretzke, ha colaborado en una herramienta de IA que mide el volumen de los riñones. El crecimiento renal, al combinarse con quistes, puede predecir el deterioro de la función renal antes de que se refleje en los análisis de sangre. Anteriormente, se medía el volumen renal principalmente a mano, con el equivalente a una regla en la pantalla y conjeturas. Los resultados variaban y la tarea requería mucho tiempo. La Dra. Potretzke se desempeñó como consultora, usuaria final y evaluadora mientras trabajaba con el equipo de IA del departamento. Ayudó a diseñar el programa de software, que tiene un código de colores para diferentes tejidos, y revisó las mediciones. Hoy, ella menciona una imagen en la pantalla de su computadora y hace clic en un ícono, y la medición del volumen renal aparece al instante. Le ahorra de 15 a 30 minutos cada vez que examina una imagen renal, y su precisión es constante. “Es un buen ejemplo de algo que se siente muy cómoda delegando en la IA por su eficiencia y precisión”, Puede aumentar, asistir y cuantificar, pero no está en condiciones de renunciar a las conclusiones interpretativas de la tecnología”.

Se hace referencia a Your A.I. Radiologist Will Not Be With You Soon. También aparece en mi Portal . La imagen es cortesía de Bing Image Creator.

La entrada ¡IA no desplaza a los radiólogos, transforma todos los procesos! aparece primero en Laszlo Beke.

Así que, en la medida que las organizaciones adopten un paradigma de innovación centrado en una explosión de datos ricamente estructurados, no solo están habilitando una mejor IA, sino que están redefiniendo por completo lo que el software puede lograr. Al liberarse de los modelos de datos rígidos, pueden transformar las bases de datos de software estático en motores de innovación que impulsarán la próxima ola de inteligencia tecnológica.

Un poco de historia de bases de datos

El cerebro depende de una vasta red ramificada de miles de millones de neuronas que conectan estímulos, experiencias y conocimientos (a menudo en tiempo real) para comprender el mundo. Esta compleja red cognitiva adaptativa es lo que hace al cerebro humano tan poderoso. Precisamente por eso, las redes neuronales de aprendizaje automático se modelan a partir del cerebro. A medida que los modelos de aprendizaje automático, incluidos los grandes modelos lingüísticos, sigan evolucionando y se vuelvan más inteligentes, las aplicaciones que los impulsan se parecerán más a nosotros.

Esto lleva a analizar los datos, la información de la cual dependen los modelos inteligentes (como nuestra memoria). Históricamente, las bases de datos almacenaban datos en tablas organizadas de filas y columnas, una estructura similar a la de una hoja de cálculo. En este modelo «tabular» de gestión de datos, cada celda cumple una función única y específica, lo que garantiza un control estricto. Es un mecanismo altamente organizado para el almacenamiento y la recuperación de datos, pero es inflexible y le cuesta adaptarse a tipos de información imprevistos.

Este estándar de bases de datos se vio significativamente alterado con el auge de las aplicaciones móviles, impulsado por el lanzamiento de los teléfonos inteligentes. Estas nuevas aplicaciones exigían una forma más flexible de gestionar conjuntos de datos ricamente estructurados: datos que no se reducen fácilmente a filas y columnas, sino que consisten en relaciones complejas y anidadas. Para adaptarse a esta complejidad, surgieron nuevos tipos de bases de datos menos rígidos, incluyendo el «modelo de documento», una solución que permite a los desarrolladores organizar los datos de forma que reflejen con mayor precisión los objetos y relaciones del mundo real.

El auge de la IA ha desencadenado una nueva ola de disrupción. Ante las mayores expectativas de los usuarios respecto a la inteligencia de las aplicaciones, la capa de lógica de negocio de la aplicación —la cual define las acciones que el software puede realizar— debe evolucionar para ser sensible al contexto, capaz de razonar de forma independiente y de tomar medidas intuitivas en nombre de los usuarios. Al mismo tiempo, la demanda de aplicaciones cada vez más inteligentes está acercando la capa de interfaz, responsable de las interacciones del usuario final, a la base de datos: con una demanda nunca antes vista de información basada en datos más rápida. La base de datos, tradicionalmente la base de las aplicaciones se está extendiendo hasta la cima de la pila.

Las bases de datos deben adaptarse a la disrupción

Los agentes impulsados ​​por Inteligencia Artificial requieren volúmenes masivos de datos, mucho más que cualquier necesidad del pasado. Las aplicaciones de agentes actuales deben gestionar datos a escala de petabytes (un petabyte es un millón de veces el tamaño de un gigabyte). Pero las necesidades de datos de la IA no son solo una cuestión de escala; la IA también requiere datos complejos. A medida que las aplicaciones impulsadas por IA se acercan cada vez más al razonamiento humano, no parece tener sentido que los datos en los que se basan (el conocimiento) se limiten a filas y columnas rígidas.

Para impulsar estos avances, los datos deben organizarse de forma que las aplicaciones inteligentes puedan comprender y expresar relaciones dinámicas, conocimiento contextual y adaptabilidad en tiempo real. El futuro de los datos reside en formas flexibles y naturales de representar la información: datos organizados menos como tablas y más como redes interconectadas, interdependientes y complejas. Un «mapa» ricamente estructurado, donde los puntos de datos se relacionan entre sí de forma significativa y que está organizado de forma que las relaciones y los significados relativos se integren en la estructura.

Tomemos como ejemplo a un asistente médico impulsado por IA, diseñado para ayudar a los médicos a realizar diagnósticos más rápidos y precisos. Debe interpretar simultáneamente (y con rapidez) múltiples tipos de datos (historial del paciente, constantes vitales en tiempo real, resultados de laboratorio, literatura médica), a la vez que debe considerar la evolución de los síntomas y las condiciones externas, como los factores de riesgo ambientales. Y no basta con presentar posibles diagnósticos: el agente debe proporcionar información práctica sobre los próximos pasos y planes de tratamiento, y refinar continuamente sus recomendaciones en función de los resultados del paciente.

Los datos ricamente estructurados sientan las bases para este nivel de lógica casi humano, al permitir que las capas de conocimiento interactúen fluidamente. A medida que la inteligencia de aplicaciones evoluciona, los agentes procesan estos datos a mayor velocidad, con un mayor nivel de fidelidad y gestionan nuevos tipos de entradas multimodales como texto, imágenes, voz y datos de sensores. En conjunto, esto permite al agente anticipar sus necesidades, teniendo en cuenta el contexto y los cambios del momento para ofrecer recomendaciones intuitivas y conscientes. En resumen, son datos estructurados de forma más similar a cómo funciona nuestro cerebro.

Se hace referencia a The Rise Of AI Agents And The Future Of Data. La imagen es cortesía de Bing Image Creator.

La entrada ¡Las bases de datos y los Agentes de Inteligencia Artificial! aparece primero en Laszlo Beke.

Un asistente de programación de IA permite pulsar unas pocas teclas, generando un prompt, y la herramienta de software sugiere el resto de la línea de código. También puede recomendar cambios, buscar datos, identificar errores y ejecutar pruebas básicas. Aun cuando la IA comete algunos errores, representa un ahorro importante de horas. Para muchos, es parte asistente, parte profesor. Como principiante, se le puede hacer preguntas de codificación.  Aquellos que comienzan a utilizarla comentan que «no puedo imaginarme trabajar sin ella ahora». Ese sentimiento es cada vez más común entre los desarrolladores de software, que están a la vanguardia de la adopción de agentes de IA, los programas de asistencia diseñados para ayudar a los empleados a hacer su trabajo en campos que incluyen el servicio al cliente y la manufactura.

Las predicciones sobre las consecuencias de la tecnología varían ampliamente, desde la eliminación de franjas enteras de la fuerza laboral hasta la hipercarga de la productividad como un elixir para el crecimiento económico.  La rápida mejora de la tecnología ha estado acompañada de advertencias terribles de que la IA pronto podría automatizar millones de trabajos, y los desarrolladores de software han sido señalados como los principales objetivos. La perspectiva para los desarrolladores de software indica que es más probable que sea la evolución que la extinción, según ingenieros de software experimentados, analistas del sector y académicos. Durante décadas, mejores herramientas han automatizado algunas tareas de codificación, pero la demanda de software y de las personas que lo crean ha continuado en aumento. La IA acelerará esa tendencia y elevará el nivel del arte y de la artesanía del diseño de software. Las habilidades que necesitan los desarrolladores de software cambiarán significativamente, pero la IA no eliminará la necesidad de ellas.

La evolución de la tecnología

Las opiniones dispares sobre la IA generativa, que ya puede conversar con fluidez humana y crear imágenes y videos realistas, reflejan una incertidumbre básica: ¿Qué tan rápido mejorará la tecnología y hasta dónde puede llegar? Los programadores afirman que los asistentes de codificación son cada vez más capaces y fiables. El progreso se alimenta de una gran cantidad de datos de alta calidad que se utilizan para entrenarlos: portafolios de software en Internet, sitios web de preguntas y respuestas sobre codificación y documentación e ideas para la resolución de problemas publicadas por los desarrolladores. El software de IA puede entonces generar resultados más precisos y muchas menos “alucinaciones” descarriadas, en las que ofrece información falsa o sin sentido, que un chatbot entrenado en la cacofonía inconexa de Internet en su conjunto.

Las grandes empresas tecnológicas y los principales proveedores de software empresarial como IBM y Salesforce se han lanzado a ofrecer programas de codificación asistida por IA. Microsoft, que lanzó su agente GitHub Copilot en 2021, es el líder comercial inicial. La oportunidad en los asistentes de codificación de IA ha generado varias empresas emergentes y ha atraído una oleada de financiación de riesgo. La inversión en este nicho de IA alcanzó casi 1.600 millones de dólares en 2024, el triple del año anterior.

Hay expertos que postulan que, en poco tiempo, la IA podría escribir entre el 80 y el 90 por ciento del código creado por desarrolladores corporativos. El papel del desarrollador humano, pasará a ser guiar y dirigir a los agentes de IA, será como un director de una orquesta potenciada por IA. Hasta ahora, los agentes de IA:

• Mejoran la productividad diaria de los desarrolladores en entornos comerciales reales entre un 10 y un 30 por ciento.
• Mejoran la calidad del código.
• Pueden fungir como una especie de instructor automatizado para poner al día rápidamente a los nuevos miembros de un equipo de desarrollo.
• Ayudan a generar la documentación que los programadores necesitan escribir para explicar su código a otros.
• Automatiza gran parte del trabajo de traducir software antiguo a lenguajes de programación modernos.
• Ejecutan algunas tareas que se podrían asignar a un pasante humano.

Pudiera preocupar el caso de los desarrolladores junior que ingresan al campo ahora. La demanda reciente de ingenieros de software junior, definidos como aquellos con tres años de experiencia o menos, ha sido débil. Pero aún es pronto para determinar cuánto contribuye la IA a la debilidad de la contratación, dicen los analistas del mercado laboral.

Capacitación – Algunos programas de capacitación laboral se están moviendo rápidamente para adaptarse a la era de la codificación de IA. El programa de capacitación, una combinación de instrucción en línea y en persona, ahora ofrece un curso de «fundamentos de IA». Luego, después de que los estudiantes de ingeniería de software aprenden todos los conceptos básicos de programación, obtienen experiencia práctica usando un asistente de IA para escribir aplicaciones de software.

Se hace referencia a A.I. Is Prompting an Evolution, Not Extinction, for Coders. La imagen es cortesía de Bing Image Creator.

La entrada ¡Prompting es una gran diferencia para los programadores! aparece primero en Laszlo Beke.

La descripción de la necesidad

La máquina básica para rectificar un rodamiento de bolas de acero ha sido la misma desde alrededor de 1900, pero los fabricantes han estado automatizando de manera constante todo aquello que la rodea. Hoy, el proceso es impulsado por una cinta transportadora y, en su mayor parte, es automático. La tarea más urgente para los humanos es averiguar cuándo las cosas van mal, e incluso este proceso está en camino a ser entregado a la IA. La fábrica de Schaeffler en Hamburgo comienza con alambre de acero que se corta y se prensa para formar bolas rugosas. Esas bolas se endurecen en una serie de hornos y luego se pasan por tres rectificadoras, cada vez más precisas, hasta que son esféricas con una precisión de una décima de micrón. El resultado es uno de los componentes más versátiles de la industria moderna, que crea juntas de baja fricción para todo tipo de uso, desde tornos hasta motores de automóviles.

Ese nivel de precisión requiere pruebas constantes, pero cuando aparecen defectos, rastrearlos puede presentar un rompecabezas. Las pruebas pueden mostrar un defecto que ocurre en algún punto de la línea de ensamblaje, pero la causa puede no ser obvia. Tal vez el par de torsión de una herramienta de atornillado no sea el correcto o una muela de amolar recién reemplazada esté afectando la calidad. Para localizar el problema es necesario comparar datos de varios equipos industriales, ninguno de los cuales fue diseñado con este problema en mente.

Agente de Operaciones de Fábrica – Microsoft

El año pasado, la fábrica Schaeffler se convirtió en uno de los primeros usuarios del Factory Operations Agent de Microsoft, un nuevo producto impulsado por los Modelos Grandes de Lenguaje y diseñado específicamente para fabricantes. La herramienta de estilo chatbot puede ayudar a localizar las causas de los defectos, el tiempo de inactividad o el consumo excesivo de energía. El agente es capaz de comprender preguntas y traducirlas con precisión y exactitud en comparación con modelos de datos estandarizados. Por lo tanto, un trabajador de fábrica podría hacer una pregunta como «¿Qué está causando un nivel de defectos más alto de lo habitual?» y el modelo podría responder con datos de todo el proceso de fabricación. El agente está profundamente integrado en los productos empresariales existentes de Microsoft, en particular Microsoft Fabric, su sistema de análisis de datos. Esto significa que, Schaeffler puede entrenar a su agente con datos de todas sus cientos de plantas en el mundo.

El beneficio principal no es el chatbot en sí, aun cuando este ayuda. Es más bien, la combinación de esta plataforma de datos de OT [tecnología operativa] en el backend y el chatbot que depende de dichos datos. A pesar del nombre, no se trata propiamente de un Agente de IA: no tiene objetivos y sus poderes se limitan a responder cualquier pregunta que haga el usuario. Puede configurar el agente para que ejecute comandos básicos a través del estudio Copilot de Microsoft, pero el objetivo no es que el agente tome sus propias decisiones. Se trata principalmente de una IA como herramienta de acceso a datos.

Eso es particularmente valioso en la fabricación, donde rastrear un conjunto de errores puede significar comparar datos entre sistemas de control de calidad, software de Recursos Humanos y sistemas de control industrial como hornos y taladros de precisión. En el sector, esto se conoce como la brecha de TI/OT: la desconexión entre la tecnología de la información, como las hojas de cálculo, y la tecnología operativa que se utiliza en una fábrica. Las empresas de IA creen que los grandes modelos de lenguaje como el Factory Operations Agent podrán trabajar en esa brecha, lo que le permitirá responder a preguntas básicas de resolución de problemas en forma conversacional.

Manufacturing Data Engine – Google

Habrá muchos sistemas en competencia que esperan desempeñar un papel en la planta de producción. En septiembre pasado, Google lanzó una actualización de su Manufacturing Data Engine destinado específicamente a desbloquear los datos almacenados en dispositivos industriales, y tanto Microsoft como Google mantienen plataformas donde los desarrolladores independientes pueden probar sistemas con diferentes estrategias de ajuste y diferentes tolerancias al riesgo.

Esa competencia es buena para el campo, pero el uso creciente de la IA industrial también aumenta las apuestas por la seguridad, en particular en la planta de producción, donde las fallas pueden ser una cuestión de vida o muerte. El Factory Operations Agent solo manipula datos en lugar de controlar directamente la maquinaria, pero aún existen preocupaciones. La mayor preocupación de los modelos de IA como el Agente de Operaciones de Fábrica es simplemente que los usuarios no reconocerán cuándo el sistema comienza a fallar, o no sabrán cómo intervenir una vez que lo haga.

Se hace referencia AI Assistants Join the Factory Floor. La imagen es cortesía de Bing Image Creator.

La entrada ¡Asistentes de IA en manufactura! aparece primero en Laszlo Beke.

ChatGPT le dió a los usuarios la primera oportunidad de probar un nuevo tipo de Inteligencia Artificial (IAGen), la cual utiliza data existente y publica materiales para crear contenido. Una vez que se calmó el revuelo inicial, para los economistas era importante averiguar quienes estaban usando la tecnología, como la usaban, donde y con qué frecuencia. La velocidad y la robustez de adopción de una tecnología es generalmente un buen pronosticador de su eventual impacto económico. Para realizar el estudio, se recreó una encuesta de alta calidad, que mensualmente mide la tasa de desempleo en Estados Unidos. Este formato había sido utilizado para medir el impacto de la computadora persona en 1984 y de Internet en 2001.  Los siguientes comentarios incluyen algunos resultados de la encuesta y ciertas opiniones:

• Tasa de adopción – La tasa de adopción (casi 40%) para agosto de 2024 (menos de 2 años) es significativamente más rápida que la de Internet (20% después de dos años) y la de las computadoras personales (20% después de 3 años). Para esa fecha, el 39.4% de los adultos (18-64 años) en Estados Unidos habían usado IAGen; 28% en el trabajo y 33% fuera del trabajo. Los economistas expertos que participaron en el estudio se sorprendieron por el alto volumen de uso sin embargo, los estudiantes pensaban que los números eran más altos todavía.  Eso significaría que los jovenes usan más IAGen, una situación que se repite con otras tecnologías.
• Velocidad de adopción – Para que haya ocurrido una adopción tan rápida debe haber diferentes razones. (1) Se trata de una tecnología construida sobre otras dos tecnologías. Las personas tienen en su casa computadoras y acceso a Internet, lo cual es una base para adoptar la tecnología. La computadora personal, cuando fue lanzada al mercado, era grande y costosa y no todos la tenían en casa. Internet era menos costoso, y con este se creó una red que conecta a las personas. Teniendo esas dos en la base, era más fácil adoptar IAGen rápidamente. (2) La IAGen adicionalmente representa innovación complementaria en Internet.
• Grupos demográficos – La adopción no es uniforme en todos los grupos demográficos. Los hombres, los jóvenes, los que tienen 2º.  nivel universitario y las personas en trabajos de oficina tienden a usar más y también con mayor frecuencia la IAGen. Es natural que los jóvenes y los más educados adopten tecnologías nuevas con mayor facilidad.  En la introducción del PC, el porcentaje de uso de las mujeres era más alto, por su aplicación en usos administrativos y secretariales. Hoy en día, hay mayor uso en carreras de ciencias y de gerencia, donde hay más hombres.
• Uso generalizado – En casi todas las ocupaciones hay más de 20% de uso, e incluso en las posiciones de trabajo manual (obreros) el número es 22%.
• Uso en empresas vs uso personal– Hay un alto uso en las empresas, pero la IAGen no está incorporada formalmente a sus operaciones. Los empleados los utilizan para escribir correos, buscar información y otros usos.  Las empresas la están permitiendo, aun cuando no requieren que se use.
• Futuro – Se recomienda que los líderes de las empresas y de tecnología actúen sobre los resultados de la encuesta.  Dentro de 20 años, cada producto y cada desarrollo tecnológico estará usando IAGen como base. Al igual que Internet fue la base para muchas otras tecnologías, esta tecnología es tan versátil que puede hacer muchas cosas bien.
• Killer-app – No existe todavía el “killer-app”, cómo lo fue la hoja de cálculo para la computadora personal, y quién lo logré será muy exitoso y eso debería ocurrir dentro de los próximos 5-10 años.
• Inteligencia Artificial General – Entre un grupo importante de empresas hay una fuerte competencia por tratar de llegar a la inteligencia artificial general. Sin embargo, hay una infinidad de aplicaciones comerciales por desarrollar que no requieren que eso ocurra.  Dichas aplicaciones deben ser construidas, donde IA es una entrada y no el producto propiamente.

Resultados de la encuesta

Tipos de tareas donde IA es más útil en el trabajo – Escribiendo comunicaciones 38.4%; Haciendo tareas administrativas 26.8%; Interpretando/Traduciendo/Resumiendo 23%; Buscando hechos o información 17.7%; Programando software 13.8%; Documentando o instrucciones detalladas 13.6%; Generado/desarrollando nuevas ideas 13.2%; Soporte a clientes/compañeros 11.6%; Análisis de data/visualización 8.3%; Tutoría o asistencia educativa 3.5%.

Tipos de tareas donde IA es más útil en el hogar – Escribiendo comunicaciones 26.8%; Interpretando/Traduciendo/Resumiendo 22.8%; Asistencia personal (listas, cronogramas, etc.) 21.1%; Ideas/prompts para proyectos creativos 20.4%; recomendaciones para diversión 12.2%; Tutoría o asistencia educativa 11.8%; salud y bienestar 11.8%; recetas y cocina 10.7%; apoyo para la familia/familia 9%, otro 6.1%; mejoras en el hogar 3.2%

Diferencias demográficas en el uso de IA en el trabajo (Uso cada día; una vez por semana)- Hombres (12.2%;15.6%); Mujeres (8.8%;11.3%); Edad 18-29 (11.3%;16.5%); 30-39 (14.5%;16.2%); 40-49 (12.1%;14.9%); 59-64 (5.5%;8.1%); < que  nivel universitario (6.8%;9.4%);  1er. Nivel universitario (14.5%;20%); 2º. Nivel universitario (18.7%;18.4%); Ciencias (17.3%;22.6%); Administración/Economía(16%;21.5%); Humanidades/otros (8.4%-10.4%)

Uso de IA por ocupación (Uso cada día; una vez por semana) – Computación/Matemáticas (17.3%;28.5%); Gerencia (22.3%;24%); Negocios/Finanzas (16.5%;21.6%); Educación (11.3%;22.1%); Entretenimiento/Artes/Deportes (8.4%;16.9%); Ciencias (8.3%;16.6%); Salud (13.3%;8.7%); Ventas (7.4%;13.7%); Obreros (9.1%;7.1%); Legal/Servicios Sociales (14.5%;3.9%); Oficina/Administración (6.3%;11%); Servicios al personal (3.9%;7%);

Uso de IA por sector (Uso cada día; una vez por semana) – Finanzas/Info/Inmobiliario (22.1%;22.3%); Agricultura/Extracción (20.7%;13.1%); Servicios Profesionales (13.1%;18%); Mayoreo/Retail (11.5%;16.1%); Manufactura (11.2%;13.5%); Construcción (10.2%;11.3%); Transporte/Servicios públicos (7.5%;13.4%); Educación/Salud/Estado (7.6%;11.4%); Placer/Hotel/Otro (5.9%;6.6%)

Se hace referencia a Generative AI embraced faster than internet, PCs. La imagen es cortesía de Bing Image Creator.

La entrada ¡La adopción de Inteligencia Artificial Generativa es mucho más rápida que Internet y los PC! aparece primero en Laszlo Beke.

Los tres grandes virajes que están en marcha en el mundo del desarrollo de software son: (1) Trabajo remoto – el grueso del trabajo de programación es realizable en forma remota; (2) Inteligencia Artificial – las encuestas indican que los desarrolladores en el mundo están descubriendo la IA Generativa y que alrededor del 40% de ellos la están usando y (3) Mercados Emergentes – un número creciente de programadores provienen de los mercados emergentes. Como referencia, desde el año 2020 en la plataforma GitHub, los usuarios provenientes de los países desarrollados pasaron a ser minoría. En los próximos años, se presume que India tendrá la fuerza laboral más grande en este sector superando a Estados Unidos. Estos cambios son relevantes, por cuanto el talento de software es muy valioso. Sus ingresos son altos, en Estados Unidos están dentro del 5% de los perfiles mejor remunerados, tienen ingresos superiores a los de los ingenieros nucleares.

Nuevas tecnologías para los programadores

Es importante analizar los elementos que apoyan esta transformación:

• Internet – este representa un inmenso ahorro de tiempo cuando se trata de responder preguntas, las cuales anteriormente se hacían en libros y manuales físicos.
• Inteligencia Artificial Generativa – esta representa un paso determinante y es particularmente importante la disponibilidad de data o información: (a) Múltiples foros, como Stack Overflow, contienen enormes archivos de preguntas y sus respuestas asociadas a programación. Allí las respuestas también son calificadas, lo cual ayuda al proceso de aprendizaje de los modelos de IA y (b) La programación tiene circuitos o ciclos de retroalimentación donde se prueba si el software funciona correctamente, estos también son fuentes para que IA aprenda y mejore. Este apoyo está comenzando a tener efecto y en encuestas realizadas a los desarrolladores, ellos indican ahorros de tiempo significativos. También hay temas a resolver, se ha nota notado un descenso en la calidad de la codificación y se sospecha que se debe al uso de IA y hay que cuidar los aspectos de seguridad. IA resuelve los problemas básicos de programación, la próxima generación de herramientas debe ser mejor, tanto Anthropic como OpenAI recientemente han lanzado versiones, asegurando que son más precisas y que manejan código más complejo
• Herramientas – hay una explosión de herramientas para ayudar a los programadores e incluye a 250 emprendimientos y también a los gigantes de la tecnología. En junio de 2022, Github de Microsoft, lanzó Copilot y al igual que muchas otras herramientas puede lanzar líneas de código en respuesta a un prompt. Hoy en día, 2 millones de personas pagan la suscripción, incluyendo a empleados del 90% de las empresas del Fortune 100. En 2023 Alphabet (Google) y Meta (Facebook) liberaron productos similares y en 2024 lo hicieron Amazon y Apple. Adicionalmente, muchas empresas han creado herramientas de codificación internamente.
• Flexibilidad – las herramientas de IA ayudan con las tareas más mundanas, como escribir notas sobre aquello que el código hace o en el diseño de pruebas para asegurar que el código no tiene fallas.  La escritura de código representa alrededor de 40% del trabajo de un ingeniero de software. Pero las herramientas también pueden ayudar a los programadores a ser más flexibles, permitiéndoles cambiar rápidamente de un lenguaje a otro, y así pueden aplicar sus habilidades a diferentes situaciones. Se estima que pueden hacer este cambio en una semana en lugar de tres meses. Amazon reportó que logró ahorros de US$260 millones al cambiar el lenguaje de programación de aplicaciones propias. Esta nueva flexibilidad se extiende a diferentes tipos de programación.  Una App, relativamente pequeña, típicamente ha requerido seis perfiles diferentes de programador (interfaz de usuario, plomería de software, etc). Hoy en día, hay emprendimientos que usan menos perfiles, por cuanto los programadores pueden asumir diferentes perfiles con mayor facilidad. 
• Nueva generación – la flexibilidad arriba planteada le abre espacio de trabajo a programadores con menos experiencia.  Pueden hacer tareas complejas más rápidamente y parte del trabajo que ellos realizaban puede pasar a manos no profesionales. La creciente tendencia del “no code- low code” le permite a cualquiera escribir software, soportado además por IA. 

Todo esto apunta a que los programadores con poca experiencia en los países desarrollados tendrán competencia internacional más fuerte. Se espera, que entre 2023-2029 el número de programadores en Asia-Pacífico y Latinoamérica aumentará en 21% y 17% respectivamente, comparado con el 13% en Norte América y 9% en Europa. Eso probablemente generará un crecimiento significativo en Outsourcing. Hay importantes empresas consultoras, que estiman que la mitad de su gasto será en outsourcing. Otras empresas prefieren tener empleados directos y han abierto oficinas en los países emergentes, para aprovechar los costos bajos. Para tener una idea de la magnitud del  mercado, en 20023, India exportó US$193.000 millones en software y servicios.  

Una visión es que IA y el offshoring absorberán un alto porcentaje del trabajo de los programadores en los países desarrollados.  La otra posición es que las partes más aburridas del trabajo de los programadores la harán las computadoras, mientras que el tiempo del desarrollador se dedicará a resolver problemas más complejos y más valiosos. Esta última probablemente será la más acertada. Para los clientes, estas tendencias son bienvenidas. Se podrá digitalizar más, a menor costo gracias a IA y a la globalización.

Se hace referencia a AI and globalisation are shaking up software developers’ world. La imagen es cortesía de Bing Image Creator.

La entrada ¡Inteligencia Artificial ayuda a transformar el mundo de los programadores! aparece primero en Laszlo Beke.

• Seguridad – Garantizar la seguridad de los sistemas de IA es vital para poder prevenir ataques maliciosos y el robo de data. Esto incluye asegurar la data usada por IA, proteger los modelos de IA y asegurar que existan robustas medidas de ciberseguridad.
• Administración del riesgo – Los sistemas de IA plantean riesgos como filtraciones o violaciones de la data, su mal uso y las consecuencias no deseadas e involuntarias de estas. La administración efectiva del riesgo involucra la identificación temprana de los riesgos potenciales, la implementación de medidas preventivas y el continuo monitoreo de los sistemas de IA.
• Confianza – Generar confianza en los sistemas de IA es esencial para su adopción. Ello involucra asegurar la transparencia en la forma en la cual se toman las decisiones en IA y se abordan los sesgos, y haciendo los sistemas de IA entendibles para los usuarios.
• Consideraciones éticas – La IA ética involucra la equidad, la responsabilidad y la transparencia. Ello implica enfrentar temas como los sesgos, asegurar que las decisiones de IA sean explicables y lograr que los sistemas de IA sean utilizados de manera que beneficien a toda la sociedad.

Sesgo y equidad

El sesgo y la equidad son temas críticos en el desarrollo e implementación de los sistemas de IA, y son determinantes para que estos sean transparentes y beneficiosos para todos. El sesgo en IA ocurre cuando un sistema de IA produce resultados que están sistemáticamente cargados de prejuicios, debido a presunciones erróneas en el proceso de aprendizaje automático, los cuales pueden tener diferentes orígenes: (a) Sesgo de la data – Si la data que se usa para entrenar el modelo de IA esta sesgada, el modelo seguramente reflejará dicha parcialidades y prejuicios. Por ejemplo, si un modelo de reconocimiento facial es entrenado principalmente con imágenes de personas asiáticas, seguramente tendrá un desempeño pobre con individuos caucásicos o de piel oscura; (b) Sesgo algorítmico – Los algoritmos pueden introducir el sesgo y esto puede ocurrir en el diseño del algoritmo, o la forma en la cual procesa la data internamente, favoreciendo ciertos resultados sobre otros y (c) Sesgo humano – Los prejuicios pueden ser introducidos por los humanos que diseñan, entrenan e implementan los sistemas de IA. Sus propios sesgos y presunciones pueden influir en el comportamiento de IA.

En cuanto a la equidad o imparcialidad, esta involucra lograr que los sistemas de IA operen en una forma justa e imparcial y ello incluye: (a) Transparencia – Hacer que los sistemas de IA sean entendibles y explicables a los usuarios, lo  cual a su vez ayuda a corregir los sesgos; (b) Responsabilidad (accountability) – Asegurar que existan mecanismos que responsabilicen a los sistemas de IA y a sus creadores de sus acciones y decisiones; (c) Inclusividad – Diseñar los sistemas de manera que consideren las necesidades y perspectivas de diversos tipos de públicos, ayudando así a crear resultados más imparciales y (d) Estrategias de mitigación – Implementar técnicas que detecten y reduzcan los sesgos en los sistemas de IA. Esto puede abarcar el uso de data de entrenamiento diversa, auditorias programadas y algoritmos conocedores o familiarizados con la imparcialidad.

Existen varias estrategias para enfrentar el sesgo y lograr la equidad y estas incluyen: (a) Recolección de data diversa – Asegurar que la data utilizada para entrenar los modelos de IA es representativa de todos los públicos, lo cual ayuda a reducir el sesgo de la data; (b) Herramientas de detección de sesgo – Utilizar herramientas y técnicas que ayuden a detectar prejuicios en los modelos de IA. Esto puede involucrar pruebas estadísticas y métricas de imparcialidad; (c) Guías éticas – Adoptar guías y estructuras para el desarrollo de IA, para asegurar que los sistemas de IA sean diseñados y utilizados responsablemente y (d) Monitoreo continuo – Monitorear el sistema de IA con regularidad para detectar señales de sesgo y de ventajismo, lo cual permite identificar y enfrentar las situaciones en la medida que ellas aparecen.

Chatbots éticos

Los chatbbots públicos adquieren más importancia cada vez y son medios que las personas y las organizaciones utilizan para complementar el conocimiento y la información que se maneja en sus sistemas internos. El desarrollo de chatbots éticos implica adherirse a varios lineamientos para asegurar que ellos sean responsables, transparentes y útiles para los usuarios. Algunos de los principios más importantes son:

• Transparencia, revelación y divulgación – incluyendo: (1) Identidad – para generar confianza y establecer las expectativas apropiadas, revelarle con claridad a los usuarios que están interactuando con un chatbot y no con un ser humano; (2) Propósito – con el fin de ayudar a los usuarios a conocer el alcance y las limitaciones del chatbot, explicando el propósito del chatbot y cómo este puede asistir a los usuarios.
• Consentimiento informado – abarcando: (1) Recolección de data – obtener la aprobación explícita de los usuarios antes de recolectar cualquier data personal. Asegurar que los usuarios entienden cual data está siendo recolectada y como será utilizada y (2) Uso – informar a los usuarios como su data será procesada y almacenada, incluyendo las prácticas para asegurar el anonimato que proteja la identidad de los usuarios.
• Privacidad y seguridad de la data, abarcando: (1) Protección – implementar medidas de seguridad robustas para proteger la data del usuario de violaciones o de accesos no autorizados y (2) Compliance – asegurar el cumplimiento de las regulaciones de protección data, tales como el Reglamento General de Protección de Datos.
• Responsabilidad, abarcando: (1) Manejo de errores – establecer mecanismos para detectar y corregir errores o daños causados por el chatbot e identificar el responsable por las acciones y decisiones del chatbot y (2) Ciclo de retroalimentación – proveer a los usuarios una vía para reportar y retroalimentar temas asociados al chatbot, y utilizar dicha retroalimentación para continuamente mejorar el chatbot.
• Guías éticas y el ámbito, comprendiendo: (1) Principios éticos – adoptar guías y esquemas para el desarrollo de IA, como equidad, imparcialidad, responsabilidad y transparencia y (2) Control humano – asegurar que exista vigilancia humana en los procesos críticos de toma de decisiones.
• Diseño centrado en el usuario, abarcando: (1) Inclusividad – diseñar los chatbots tomando en consideración las necesidades de diversos grupos de usuarios, ayudando  a crear interacciones más equitativas y asequibles y (2) Experiencia del usuario – focalizarse en una experiencia del usuario positiva a través de un chabot intuitivo y confiable.
• Mitigación del sesgo – incluyendo: (1) Data variada – utilizar conjuntos de datos variados y representativos para entrenar al chatbot, reduciendo el riesgo de respuestas sesgadas y (2) Auditorías programadas – ejecutar auditorias para identificar y corregir cualquier prejuicio que haya aparecido en las interacciones del chatbot.

Se hace referencia a AI’s Trust Problem – Harvard Business Review, AI and cybersecurity: Navigating the risks and opportunities, The ethics of artificial intelligence: Issues and initiatives, Navigating the Ethics of AI in Chatbot Development – Libraria, Responsible bots: 10 guidelines for developers of conversational AI, Building Ethical AI Chatbots: A Guide to Responsible AI – Mohamed Soufan, Legal and Ethical Frameworks for AI Chatbot Development y Responsible bots: 10 guidelines for developers of conversational AI. La imagen es cortesía de Bing Image Creator.

La entrada ¿Cómo generar confianza en Inteligencia Artificial? aparece primero en Laszlo Beke.

Hace cuatro años un hombre de 46 años que sufría de ELA, después de perder la habilidad de caminar, de sostener a su hija, de voltear las páginas de un libro, también terminó perdiendo la capacidad de cantar una canción de cuna. El pasado mes de Julio 2023, los médicos le implantaron quirúrgicamente unos electrodos con el objetivo de intentar discernir aquello que intentaba decir. Era una búsqueda científica, potencialmente desalentadora, de trataba de conectar el cerebro de una persona a una computadora. El planteamiento que se le hizo al paciente es que se estarían haciendo avances para la causa de la ciencia, pero que difícilmente lo ayudaría a él. Los resultados excedieron las expectativas, ilustrando el potencial de los decodificadores de voz implantados para las personas con deficiencia en el habla.

En la capa externa del cerebro del paciente se incrustaron cuatro arreglos de electrodos, similares a camas mínimas con clavos. Eso era el doble de lo que se había implantado previamente en áreas de la voz para alguien con ELA.  Las 64 puntas de los arreglos recogían impulsos de neuronas que se disparaban cuando el paciente intentaba mover para hablar la boca, los labios, la quijada y la lengua. Tres semanas después de la operación, los científicos se reunieron en la sala de la casa del paciente para “conectar” el implante a un banco de computadoras con cables fijados a dos postes de metal, que salían del cráneo del paciente.

Después de un corto entrenamiento de las computadoras para reconocer el habla del paciente, el implante comenzó a grabar aquello que este trataba de decir partiendo de un vocabulario de 50 palabras con una precisión de 99.6%. El dispositivo comenzó a funcionar tan bien que los científicos incluso eliminaron una sesión inicial de análisis. En el medio del primer intento para hablar, el paciente sonrió y comenzó a llorar. Las palabras que trataba de emitir el paciente eran inentendibles. Sin embargo, los electrodos, entonados con las neuronas, los convertían en palabras perfectamente entendibles.  Una pantalla frente al  paciente le mostraba aquello que intentaba decir.  El dispositivo se basaba en la información de la corteza motor desde donde el paciente iniciaba las instrucciones, en lugar de hacerlo desde los debilitados músculos faciales. Una clave innovadora fue incrementar el conjunto de arreglos, apuntando con mayor precisión a las partes del cerebro asociadas con el habla.

Para el segundo día, la máquina ya se encontraba operando a través de un vocabulario de 125.000 palabras con una precisión de 90% y produciendo por primera vez oraciones creadas por el paciente. La voz  del dispositivo era sorprendentemente parecida a la del paciente. Utilizando  grabaciones del pasado, los investigadores habían creado un “deep fake” de la voz pre-ELA del  paciente. En la medida  que los científicos continuaban el entrenamiento de reconocimiento de sonidos, el  dispositivo mejoraba. A través de ocho meses del estudio, el  paciente llegó a emitir 6.000 palabras únicas y diferentes. El  dispositivo  mantuvo  una precisión de  97.5%, cuando anteriormente era de 75%, y además esto excede la precisión de muchas de las aplicaciones de teléfonos inteligentes  que  transcriben el habla. Partiendo de una demostración  científica, pasó a ser un instrumento que el paciente utiliza para hablar  diariamente con su familia y amigos.

El impacto de Inteligencia Artificial Generativa

El inmenso salto tecnológico que se ha logrado se debe en parte a los diferentes tipos de Inteligencia Artificial que potencian herramientas como ChatGPT. En cualquier momento, que el implante detecta actividad en un conjunto de neuronas, traduce el patrón de señales o disparos en una vocal o una consonante. Las computadoras pueden aglomerar una serie de sonidos en una serie de palabras y posteriormente en una oración, seleccionando el resultado que consideran que tiene mayor posibilidad de corresponder a lo que el paciente está intentando decir.

Para el paciente, la principal diferencia en su voz decodificada la representan la proclividad del sistema a producir oraciones completas y los investigadores también empujaban a la herramienta de IA a reconocer las frases poco comunes que el paciente tendía a utilizar. El decodificador también le permitió al paciente recuperar elementos antiguos que habían desaparecido. La máquina, en ocasiones, parecía emular su antigua personalidad. Muchas de las palabras sonaban exactamente como él las decía. El impacto del implante también cambió como otros lo percibían. Personal del sector salud que lo visitaba y que habían pensado que el paciente era estúpido o que tenía dificultades para oír, ahora le hablan con volúmenes normales y lo tocan con más cuidado. Su nuevo estado le permitió al paciente recuperar elementos de su antigua vida social. Ahora podía reestablecer contacto con viejos amigos.

No está claro si un implante similar pudiera ser útil para personas severamente paralizadas. El habla de este paciente se había deteriorado, pero no había desaparecido. El paciente ha podido trabajar de forma más productiva e independiente. Cada mañana hace una prueba con una oración, que no está asociada a un correo electrónico de trabajo, sino con una canción que le gustaría volver a cantar. Los científicos están trabajando para tratar de que lo logre.

Se hace referencia a A.L.S. Stole His Voice. A.I. Retrieved It. La imagen es cortesía de Bing Image Creator.

La entrada ¡Inteligencia Artificial restituye la voz que la enfermedad había robado! aparece primero en Laszlo Beke.