Pinecone, la startup de base de datos de vectores fundada por Edo Liberty, el ex jefe de Amazon's AI Labs, ha estado a la vanguardia de ayudar a las empresas a complementar los grandes modelos de lenguaje (LLMs) con sus propios datos. Más recientemente, sin embargo, la empresa reconfiguró completamente su producto para lanzar Pinecone Serverless, que libera a sus clientes de tener que preocuparse por administrar sus implementaciones y escalarlas. Hoy, Pinecone serverless sale de beta y ahora está disponible en general.

Liberty señala que los primeros clientes de la empresa están ahora pasando de experimentar con la IA generativa a querer lanzar sus propios productos de IA. La empresa observó cómo las empresas luchaban con la complejidad de construir nuevas aplicaciones al mismo tiempo que también intentaban determinar la mejor forma de ponerlas en producción.

Liberty destacó que Pinecone pasó mucho tiempo preparando el producto para implementaciones de producción, al tiempo que lo hizo significativamente más asequible. La empresa realmente cree que los clientes que utilizan Pinecone serverless pueden reducir sus costos hasta 50 veces, en parte porque el equipo reconfiguró el sistema para ser un servicio multiinquilino que desacopla el almacenamiento y la computación. Con eso, los clientes de Pinecone solo pagan cuando realmente consumen tiempo de CPU, con la empresa orquestando la capacidad en el backend.

"Debido a que ejecutamos todo como un servicio, nuestra capacidad para orquestar todo eso nos permite cobrar a las personas exactamente por lo que utilizan, y no por nada más. Eso es increíblemente raro y increíblemente difícil de hacer", dijo Liberty.

Durante la vista previa pública, los clientes de Pinecone también solicitaron una serie de funciones adicionales. Una de ellas es Private Endpoints, que se está lanzando en vista previa pública hoy. Esto permite a las empresas crear una conexión directa a sus nubes privadas virtuales en Amazon a través de AWS PrivateLink, que no expone sus datos a Internet público para garantizar que los datos se mantengan dentro de los diversos regímenes de gobierno y cumplimiento que una empresa puede tener que cumplir.

Algunas de las empresas que ya están utilizando Pinecone serverless incluyen Gong, Help Scout, New Relic, Notion, TaskUS y You.com.

"Notion está liderando la revolución de la productividad de la IA", dijo Akshay Kothari, cofundador y director de operaciones de Notion. "Nuestro lanzamiento de una característica de IA líder en el mercado fue posible gracias a Pinecone serverless. Su tecnología permite que nuestra IA de preguntas y respuestas entregue respuestas instantáneas a millones de usuarios, extraídas de miles de millones de documentos. Lo mejor de todo es que nuestro cambio a su última arquitectura ha reducido nuestros costos en un 60%, avanzando en nuestra misión de hacer que la elaboración de herramientas de software sea ubicua."