Cómo la IA generativa está transformando a AT&T
El operador lanzó su herramienta Ask AT&T en junio utilizando una versión inicial de ChatGPT de OpenAI. Más de 68.000 empleados utilizan Ask AT&T para tareas como escribir código, ayudar a los clientes, resumir reuniones, parchear vulnerabilidades de seguridad y analizar la gran cantidad de datos que cruza su red diariamente.
“No estamos ni cerca de alcanzar la barrera de lo que es posible aquí”, dijo a Mobile World Live (MWL) Andy Markus (en la foto), director de datos de AT&T. “Las cosas se están moviendo rápido, pero en el espacio de las telecomunicaciones creo que nos estamos moviendo más rápido que la mayoría”.
Markus señaló que AT&T se ha apoyado durante mucho tiempo en la IA y el aprendizaje automático para permitir la automatización en toda su red y para casos de uso como planificación, administración y configuración, “pero la IA generativa simplemente nos permite hacer más de la manera que lo haría un humano, y no en el mismo sentido”. como lo haría una máquina”.
Redacción del plan GenAI
Al darse cuenta de que los modelos de lenguaje grande (LLM) de Gen AI tienen el potencial de crear resultados incorrectos o alucinaciones, basados en información falsa recopilada, AT&T elaboró sus principios guía de AI.
Una de las otras preocupaciones principales sobre el uso de la IA generativa es la falta de claridad sobre qué código fuente o lenguaje abierto se utiliza a medida que se recopila la información, lo que podría llevar a que los LLM accedan a la propiedad intelectual de un autor o empresa sin su permiso.
AT&T creó su propio conjunto de principios básicos para el uso de GenAI, que, según Markus, reflejaba directrices similares emitidas por el gobierno federal de EE. UU. y otras entidades.
“Hay aspectos fundamentales que hay que tener”, afirmó. “Hemos centrado nuestra política en torno a ellos. Si los sigues, estás en buena forma”.
La política de IA y las pautas operativas del operador se diseñaron para educar a los empleados sobre la estrategia general de AT&T y, al mismo tiempo, establecer barreras de seguridad sobre cómo se desarrolla, implementa y ejecuta.
Markus dijo que uno de los elementos centrales de las pautas era tener un ser humano informado en cada paso del proceso GenAI. Si bien es un gran facilitador para tareas como codificar u operar la red, el elemento humano mantiene las alucinaciones bajo control.
“Creemos que es [GenAI] un gran facilitador, un gran potenciador de la productividad y algo que nos permite hacer las cosas cada vez más rápido, pero siempre hay una persona en el proceso”, dijo.
En cuanto a las preocupaciones sobre propiedad intelectual, AT&T tomó la decisión de mantener todo internamente para su herramienta Ask AT&T capacitando a los LLM con su gran cantidad de datos internos.
“Recopilamos la telemetría. Lo evaluamos para asegurarnos de que no se incluya información personal y confidencial en la consulta o el resultado y comprobamos que no haya plagio”, explicó Markus.
Con su herramienta GenAI, AT&T tiene la capacidad de crear acciones basadas en su corpus de conocimiento a partir de documentos, políticas y procedimientos.
“Si hacemos una pregunta de recursos humanos que se genera a través de la API que hemos conectado a la interfaz de recursos humanos que utilizan nuestros empleados, nos aseguramos de que la función generativa solo sondee nuestras políticas y procedimientos”, dijo Markus. “En otras palabras, no responderá basándose en información de RR.HH. que pueda diferir de nuestra formación. Nos aseguramos de que responderá a partir de nuestra información”.
Si la información está basada en código, Markus afirmó que AT&T verifica que no esté escrita con copia ni tenga obligaciones de licencia copyleft. Todos esos controles y contrapesos se realizan a través de las propias API de AT&T.
Para proteger aún más a la empresa, AT&T exige que los proveedores utilicen sus API integradas en la herramienta Ask AT&T.
“Estábamos muy preocupados de que la propiedad intelectual de AT&T se filtrara al dominio público”, señaló Markus. “Si no, nuestros planes 5G podrían terminar en el dominio público porque estos modelos son redes neuronales que aprenden con la información que ven. Nuestros datos estarían en todas partes”.
Markus dijo que AT&T les dice a sus socios proveedores que utilicen sus API porque “en muchos casos estamos más avanzados que ustedes y estamos realmente preocupados de que utilicen un proceso que no está tan controlado como el nuestro”.
El operador trabajó con Microsoft para hacer que Ask AT&T fuera seguro para sus empleados y sus datos corporativos.
Debido a que AT&T se centra mucho en la interoperabilidad, ha colaborado con Nvidia, Azure OpenAI de Microsoft y ha utilizado modelos de código abierto como LLaMA 2 de Meta y Falcon para Ask AT&T. Los empleados de AT&T también fueron al área de la Bahía de San Francisco para reunirse con empleados de Google DeepMind, Microsoft y Nvidia, así como con Marc Andreessen.
“Quiero asegurarme de que no estemos en una cámara de eco para que no escuchemos lo que queremos escuchar porque estamos cerca de eso”, dijo Markus. “Nos estamos moviendo rápido y queremos hablar con personas que avanzan rápido con nosotros”.
Evolución de Ask AT&T
Si bien AT&T comenzó con la versión anterior de ChatGPT, Ask AT&T ha evolucionado con las diversas iteraciones desde el lanzamiento de OpenAI en noviembre del año pasado. Pero con la incorporación de LLaMA 2, Falcon y modelos de idiomas adicionales, el operador ahora puede adoptar un enfoque variado.
“En lugar de simplemente aplicar un modelo fundamental al problema, aplicaremos varios y veremos si obtenemos un mejor resultado”, dijo Markus. “Podríamos utilizar un modelo Falcon con un modelo LLaMA”.
Markus afirmó que otro beneficio de los modelos de código abierto es que son mucho más baratos que OpenAI. AT&T ahora tiene la capacidad de poner en marcha un modelo fundamental para casos de uso específicos, como la codificación.
“A veces una buena respuesta no tiene por qué ser la más detallada”, dijo.
Construyendo casos de uso
Además de Ask AT&T, Markus afirmó que el operador está desarrollando una herramienta de “pedir datos” para crear funcionalidades adicionales. Proporciona a los expertos en la materia la capacidad de interrogar sus datos “siendo el lenguaje humano el nuevo lenguaje informático”, según Markus.
Citó ejemplos como un lenguaje de consulta estructurado que se compara con una tabla para determinar el número de posibles incorporaciones de suscriptores para el servicio de banda ancha basado en fibra de la compañía en función de los segmentos del mercado y luego proyectar esos resultados durante los próximos cuatro trimestres.
“Dime las razones por las que ese pronóstico podría ser correcto o incorrecto. Se trata de tomar el componente de codificación, la capacidad de lógica y razonamiento, y aplicarlo a los datos”, dijo. “Realmente puede potenciar a ese experto en la materia en el negocio. Conocen su negocio, pero puede que no sean buenos programadores y es posible que no tengan un científico de datos a su lado”.
Para la red, Ask AT&T se utiliza para consultar documentos y datos para crear nueva información. Ese tipo de clasificación de un problema se puede aplicar a la red para la identificación y gestión proactiva de problemas.
“Está ayudando a nuestro equipo de ingeniería de redes a comprender cómo actuar más rápido y, en algunos casos, antes de que ocurra el problema”, señaló Markus. “Hoy hacemos algo de eso usando IA tradicional y métodos tradicionales, pero estamos viendo la posibilidad de que esto realmente nos ayude a una escala diferente”.
La herramienta también le brinda a AT&T una visión más detallada del análisis de causa raíz (RCA), que tradicionalmente ha sido un proceso muy manual y centrado en el ser humano.
“La IA generativa puede aprender de todos nuestros tickets y de todos nuestros RCA anteriores”, afirmó Markus.
A medida que los modelos GenAI de código abierto han madurado, AT&T está comenzando a crear sus propios modelos personalizados para sus casos de uso de red. Markus afirmó que el costo inicial de ChatGPT significaba que no siempre era rentable crear sus propios modelos de cliente.
“Tenía que ser un caso de uso excelente para nosotros invertir ese tipo de financiación para construir nuestros propios modelos personalizados”, dijo. “La capacidad de crear nuestros propios modelos personalizados se ha convertido en una posibilidad muy real, por lo que lo estamos probando en AT&T”.
Markus dijo que el resumen de los componentes de imagen por parte de GenAI también es de interés para casos de uso como clientes o técnicos de campo que toman fotografías de un problema que luego podría resolverse con un proceso automatizado.
“Comprender las imágenes y tomar medidas rápidamente sobre ellas es un conjunto realmente grande de casos de uso en los que GenAI puede ayudarnos”, afirmó. “Esa es un área que estamos investigando detenidamente”.
Ver más: Es posible una buena atención al cliente a través de un asistente virtual?
Ver más: Tecno Pova 5 Pro: Una obra maestra de innovación y rendimiento
