Mejora de las capacidades de IA: Google Cloud integra la búsqueda vectorial en bases de datos administradas

InfoQ Inicio Noticias Mejora de las capacidades de IA: Google Cloud integra la búsqueda vectorial en bases de datos administradas

09 de julio de 2023 Lectura de 2 minutos

por

Renato Losio

Google Cloud agregó recientemente soporte para pgvector en Cloud SQL para PostgreSQL y AlloyDB para PostgreSQL. La extensión lleva operaciones de búsqueda de vectores a las bases de datos administradas, lo que permite a los desarrolladores almacenar incrustaciones de vectores generadas por modelos de lenguaje grandes (LLM) y realizar búsquedas de similitud.

Cloud SQL y AlloyDB ahora se pueden combinar con servicios de IA generativa en Vertex AI, lo que ayuda a crear aplicaciones habilitadas para IA que conocen la aplicación y el estado del usuario. Sandhya Ghai, gerente senior de producto de Google, y Bala Narasimhan, gerente de producto de Google, explican:

Las incrustaciones de vectores son representaciones numéricas que normalmente se utilizan para transformar contenido complejo generado por el usuario, como texto, audio y vídeo, en un formato que pueda almacenarse, manipularse e indexarse ​​fácilmente. Estas representaciones se generan mediante modelos de incrustación de modo que, si dos piezas de contenido son semánticamente similares, sus respectivas incrustaciones se ubican cerca una de la otra en el espacio vectorial de incrustación. Luego, las incrustaciones de vectores se indexan y se utilizan para filtrar datos de manera eficiente en función de la similitud.

Por ejemplo, los desarrolladores pueden utilizar los modelos previamente entrenados de Vertex AI en texto e imágenes para generar incrustaciones y almacenarlas e indexarlas en una base de datos, simplificando la búsqueda de registros similares.

La extensión pgvector ahora se puede instalar dentro de una base de datos existente usando el comando CREATE EXTENSION:

Fuente: https://cloud.google.com/blog/products/databases/using-pgvector-llms-and-langchain-with-google-cloud-databases

La nueva característica también puede ayudar a los desarrolladores a aprovechar los LLM previamente capacitados, como explican Ghai y Narasimhan:

Una cosa a tener en cuenta sobre los LLM es que no tienen ningún concepto de estado. (...) Las incrustaciones le permiten almacenar grandes contextos, como documentación o historiales de chat a largo plazo, en su base de datos y filtrarlos para encontrar la información más relevante. Luego, puede alimentar el modelo con las piezas más relevantes del historial de chat o la documentación para simular la memoria a largo plazo y el conocimiento específico del negocio.

Google Cloud lanzó un cuaderno Colab y un video para crear aplicaciones basadas en inteligencia artificial utilizando pgvector, el marco de código abierto LangChain y LLM. Al mostrar cómo agregar funciones de IA generativa a una aplicación Python de muestra, Saket Saurabh, ingeniero de software senior de Google, escribe:

La extensión pgvector también introduce nuevos operadores para realizar coincidencias de similitud en vectores, lo que le permite encontrar vectores que sean semánticamente similares. Dos de estos operadores son: '<->': devuelve la distancia euclidiana entre los dos vectores. (...)'<=>': devuelve la distancia del coseno entre los dos vectores.

Google Cloud no es el único proveedor de nube dirigido a bases de datos vectoriales en los últimos meses: Amazon RDS para PostgreSQL admite la extensión pgvector y Microsoft muestra cómo se puede usar Azure Data Explorer (ADX) como una base de datos vectorial y analiza varios conectores para bases de datos vectoriales. .

Codifique, implemente y escale Java a su manera. Microsoft Azure admite su carga de trabajo con abundantes opciones, ya sea que esté trabajando en una aplicación, un servidor de aplicaciones o un marco de Java. Aprende más.

Escribir para InfoQ ha abierto muchas puertas y aumentado las oportunidades profesionales. para mí. Pude interactuar profundamente con expertos y líderes de opinión para aprender más sobre los temas que cubrí. Y también puedo difundir mis conocimientos a la comunidad tecnológica en general y comprender cómo se utilizan las tecnologías en el mundo real.

¡Descubrí el programa de colaboradores de InfoQ a principios de este año y lo he disfrutado desde entonces! Además de brindarme una plataforma para compartir aprendizaje con una comunidad global de desarrolladores de software, el sistema de revisión entre pares de InfoQ ha mejorado significativamente mi escritura. . Si está buscando un lugar para compartir su experiencia en software, comience a contribuir a InfoQ.

Comencé a escribir noticias para la cola InfoQ .NET como una forma de mantenerme actualizado con la tecnología, pero saqué mucho más provecho de ello. Conocí gente conocedora, obtuve visibilidad global y mejoré mis habilidades de escritura..

Convertirme en editor de InfoQ fue una de las mejores decisiones de mi carrera . Me ha desafiado y me ha ayudado a crecer de muchas maneras. . Nos encantaría tener más gente.Unete a nuestro equipo.

InfoQ busca un editor en jefe a tiempo completo para unirse al equipo internacional y siempre remoto de C4Media. Únase a nosotros para cubrir las tecnologías más innovadoras de nuestro tiempo, colabore con los profesionales de software más brillantes del mundo y ayude a más de 1,6 millones de equipos de desarrollo a adoptar nuevas tecnologías y prácticas que superan los límites de lo que el software y los equipos pueden ofrecer.

Todos los martes se envía un resumen del contenido de la semana pasada en InfoQ. Únase a una comunidad de más de 250.000 desarrolladores senior. Ver un ejemplo

Protegemos su privacidad.

Debe registrar una cuenta InfoQ o iniciar sesión o iniciar sesión para publicar comentarios. Pero hay mucho más detrás de estar registrado.

Aproveche al máximo la experiencia InfoQ.

HTML permitido: a,b,br,blockquote,i,li,pre,u,ul,p

HTML permitido: a,b,br,blockquote,i,li,pre,u,ul,p

HTML permitido: a,b,br,blockquote,i,li,pre,u,ul,p