SaaS y productos IA
La factura de tokens crece más rápido que el MRR, un ingeniero contesta tickets de nivel uno y cada deal enterprise se para tres semanas en el cuestionario de seguridad. Modelos abiertos, tarifa plana e inferencia en Europa o en tu propia infraestructura.
Qué exige cada reglamento del sector y qué parte de eso resuelve el despliegue.
El encargado solo recurre a subencargados con autorización del responsable y con las mismas obligaciones.
Un subencargado europeo en tu anexo, con inferencia en la UE o en tu propia infraestructura. Prompts y respuestas no se almacenan.
Transparencia del artículo 50 hacia el usuario final y obligaciones al integrar un modelo de propósito general.
Modelos abiertos con model card y licencia publicadas, y registro auditable de cada consulta para documentar qué respondió tu producto.
Cambio de proveedor de servicios de tratamiento de datos y portabilidad efectiva de datos y aplicaciones.
API compatible con OpenAI y pesos abiertos: tu plan de salida no depende de nosotros, y exportas datos e índices.
Gestión de riesgos y notificación de incidentes para los proveedores de servicios digitales dentro del ámbito.
Proveedor europeo auditable, con control de accesos por usuario y equipo y registro de cada consulta para tu cadena de suministro.
Los mismos que ya usas, específicos para tu sector.
La primera versión de la función salió en dos sprints, llamando a una API de terceros. Un año después, lo que llega al standup es siempre lo mismo:
El gasto en tokens crece más rápido que el MRR.
Dirección financieraTengo a un ingeniero contestando tickets de nivel uno.
Ingeniería de soporteLlevo tres semanas con un deal parado en el cuestionario de seguridad.
PreventaLa documentación va dos releases por detrás del producto.
Documentación técnicaCambian el modelo por debajo y mis prompts dejan de funcionar.
Dirección de productoEn mi anexo de subencargados sale un proveedor de fuera de la UE.
Dirección de tecnologíaUn cliente grande no firma si el dato sale de su nube.
FundadorNuestra ficha como subencargado europeo: qué servicio prestamos, dónde se ejecuta la inferencia, qué dependencias tiene y qué datos se tratan. Con despliegue on-premise no aparecemos en la cadena, porque el modelo corre en tu infraestructura. Mantener el anexo, el registro de actividades y la autorización del responsable sigue siendo tuyo.
No. La API es compatible con OpenAI: cambias la clave y la URL base del cliente que ya usas y el resto del código se queda como está. Lo que suele ajustarse son los prompts, porque el modelo abierto que elijas responde con su propio estilo.
La tarifa es plana, así que el coste no escala con el número de peticiones ni con la longitud de los prompts. Sobre despliegue dedicado u on-premise, el techo lo pone la capacidad que tengas provisionada, y ampliarla se planifica con antelación.
En infraestructura europea que gestionamos nosotros, o on-premise en la infraestructura tuya o de tu cliente. La API es la misma en los tres casos, así que un cliente con requisito de soberanía se atiende con el mismo código de producto.
La ficha del despliegue: dónde se ejecuta la inferencia, qué datos se tratan, qué dependencias hay, cómo se controla el acceso por usuario y equipo y qué queda registrado de cada consulta. Buena parte de las filas se repite entre clientes, así que el asistente redacta el borrador con vuestras respuestas anteriores y tu equipo revisa. Lo que firma tu empresa lo firmáis vosotros.
Sí, con la misma clave. Ahí la consulta sale hacia el proveedor del modelo, así que esa parte vuelve a tu cadena de subencargados y hay que declararla. Para datos de tus usuarios se trabaja con los modelos abiertos dentro del perímetro.
Nadie por nuestra parte: los prompts y las respuestas no se almacenan ni se usan para entrenar modelos. Dentro de tu equipo, el acceso se controla por usuario y por equipo, y queda registro de cada consulta para revisarlo y exportarlo.
Los modelos son abiertos y la API es compatible con OpenAI, así que la salida se reduce a apuntar el cliente a otro endpoint. Los pesos te los puedes llevar y tus datos e índices se exportan.
En la demo repasamos tu caso: qué modelos necesitas, dónde se despliegan y qué hace falta para cumplir con la normativa que te aplica.
Te respondemos en un día laborable.
