Vertex AI trae nuevas opciones para crear aplicaciones de IA más potentes

En el marco de Google Cloud Next ’23, el evento que hace anualmente el gigante informático para contar sus avances en la nube, se dieron a conocer varias novedades. El eje estuvo puesto en inteligencia artificial generativa y su integración en diferentes soluciones pensadas para optimizar la comunicación, la productividad y el desarrollo de aplicaciones.

Vertex AI es una plataforma de aprendizaje automático (AA) que permite entrenar e implementar modelos de AA y aplicaciones de IA, así como personalizar modelos de lenguaje grande (LLM) para usarlos en tus aplicaciones con tecnología de IA.

Cabe señalar que los clientes de Vertex AI tienen acceso a más de 100 modelos de base, incluidas versiones populares de código abierto y de terceros en Model Garden. A su vez, se ofrecen modelos específicos para las industrias como Sec-PaLM 2, para ciberseguridad y Med-PaLM 2 para ayudar a las principales empresas de ciencias biológicas y sanitarias. Una novedad importante: a partir de hoy PaLM 2 en español estará disponible de manera general para todos los clientes de Google Cloud.

Las novedades más destacadas

Enterprise Search y Conversations en Vertex AI ahora están disponibles de forma generalizada, lo cual les permite a las organizaciones crear aplicaciones de búsqueda y chat utilizando sus datos en pocos minutos.

Herramientas de ajuste

Google anunció que el ajuste de adaptadores estará disponible de forma generalizada para PaLM 2 y Codey. El ajuste de adaptadores es una técnica que puede ayudar a mejorar el rendimiento de los modelos de lenguaje grandes con tan solo 100 ejemplos.

Google también presentó Style Tuning, un nuevo método de ajuste para Imagen, la IA generativa capaz de producir imágenes a partir de una descripción de texto. Style Tuning les permite a las empresas crear imágenes alineadas con sus pautas de marca específicas u otras necesidades creativas con una pequeña cantidad de imágenes de referencia.

Nuevos modelos

Vertex AI ahora ofrece Llama 2 de Meta, Falcon LLM de Technology Innovative Institute y Claude 2 de Anthropic. En el caso de LLama 2, Google será el único proveedor de nube en ofrecer adapter tuning y RLHF.

Extensiones de Vertex AI

Los desarrolladores ahora pueden acceder, crear y administrar extensiones de Vertex AI. Las extensiones brindan información en tiempo real, incorporan datos de la empresa y pueden tomar acciones. Esto abre muchas posibilidades para aplicaciones de inteligencia artificial generativa habilitadas por la capacidad de acceder a información y tomar medidas en plataformas de terceros.

Colab Enterprise

Colab Enterprise es un servicio administrado que combina el uso de las computadoras portátiles Colab de Google con capacidades de cumplimiento y seguridad de nivel empresarial. Los científicos de datos pueden utilizar Colab Enterprise para acelerar de forma colaborativa los flujos de trabajo de IA con acceso a la gama completa de capacidades de la plataforma Vertex AI, integración con BigQuery, así como finalización y generación de código.

Mejoras en imagen y códigos

Se incluye la actualización del modelo de lenguaje PaLM 2 a 32.000 ventanas de contexto para que las organizaciones puedan fácilmente procesar extensos documentos como investigaciones o libros.

Marca de agua digital

Por medio de Google DeepMind SynthID, es posible insertar de forma directa marcas de agua en los píxeles de las imágenes generadas a partir de inteligencia artificial. Estas marcas de agua son invisibles al ojo humano y por ende difícil de manipular. Los clientes de Google Cloud tendrán acceso a la versión beta de esta herramienta vía Vertex AI.

Control de datos

Google diseñó Vertex AI para brindar a los clientes control total y separación de sus datos, código e IP. Cuando se personaliza y entrena un modelo con Vertex AI, no se exponen esos datos al modelo de base. La compañía toma una instantánea del modelo, lo que les permite a las organizaciones entrenarlo y encapsularlo en una configuración privada. Las indicaciones y datos, así como las entradas del usuario en el momento de la inferencia, no se utilizan para mejorar los modelos de Google y no son accesibles para otros clientes, según remarcó la compañía.

Infraestructura optimizada para IA

Google también anunció otras novedades en su infraestructura optimizada para dar soporte a los modelos de IA generativa.

• Cloud TPUv5e: ahora los clientes pueden utilizar una única plataforma Cloud TPU para ejecutar el entrenamiento e inferencia de IA a gran escala. En comparación con Cloud TPU v4, proporciona una mejora de hasta 2 veces en el rendimiento del entrenamiento por dólar y una mejora de hasta 2,5 veces en el rendimiento por dólar.

• A3 con GPU NVIDIA H100: está diseñada específicamente con redes de alto rendimiento y otros avances para permitir la generación de IA y las innovaciones de grandes modelos de lenguaje (Large Language Models, o LLM) más exigentes. Esto permite a las organizaciones lograr un rendimiento de capacitación tres veces mejor que el A2 de la generación anterior. Esta nueva versión estará disponible, de forma generalizada, a partir de septiembre.
• GKE Enterprise: esta herramienta, que permite el escalado horizontal multi-cluster para las cargas de trabajo de IA/ML más exigentes, ofrece mejoras de productividad del 45%. A su vez, reduce los tiempos de implementación de software en más del 70%, según la compañía. A partir de ahora, los beneficios que ofrece GKE, entre ellos el escalado automático, la orquestación de cargas de trabajo y las actualizaciones automáticas, estarán disponibles con Cloud TPU.
• Cross-Cloud Network: esta plataforma de red global está diseñada para permitir a los clientes acceder a los servicios de Google más fácilmente desde cualquier nube. Cross-Cloud Network reduce la latencia de la red hasta en un 35%.
• Google Distributed Cloud: esta solución está pensada para empresas que buscan ejecutar cargas de trabajo en el edge o en su centro de datos. Ahora se anunciaron integraciones de Vertex AI y una nueva oferta administrada de AlloyDB Omni en GDC Hosted.