Un assistant de connaissances qui ne quitte jamais vos murs.

Tout le monde a assisté à cette réunion. Quelqu'un fait la démonstration d'une IA qui répond à des questions sur les politiques d'une entreprise, en langage courant, avec des citations, et la salle se penche en avant. Puis quelqu'un pose la seconde question : donc nous téléversons nos contrats où, exactement ? Et la salle se rejette en arrière.

Les deux réactions sont justes. Le besoin est réel : la connaissance d'une entreprise vit dans des contrats, des tickets, des wikis, des dossiers et du code, et presque rien de tout cela ne trouve réponse sans qu'un humain aille creuser. Le blocage est réel aussi : cette même connaissance est la chose la plus sensible que l'entreprise possède, et « envoyez-la à une API » n'est pas une phrase que le service juridique signera. La partie que presque personne dans la salle ne connaît, c'est que les deux ne sont plus en conflit. Toute la chaîne qui rend les documents interrogeables peut tourner sur une machine, dans un rack, sous une juridiction, sans que rien n'en sorte.

Ce qu'est vraiment un assistant de connaissances

Retirez le culte des acronymes et le mécanisme est simple. Vos documents sont découpés en passages et encodés en embeddings, des empreintes numériques de sens. Ces empreintes vivent dans une base de données vectorielle. Quand quelqu'un pose une question, la question est encodée de la même manière, la base trouve les passages dont le sens est le plus proche, et le modèle répond à partir de ces passages, en citant ce qu'il a utilisé. Le secteur appelle cela retrieval-augmented generation. L'important est ce que cela implique : le modèle ne mémorise pas vos archives. La chaîne les consulte, en direct, à chaque question.

Ce qui signifie que la chaîne est la surface sensible. Pas seulement le modèle : les documents qui entrent, les embeddings qui en sont faits, chaque question que quiconque pose, chaque réponse qui revient, et les journaux de tout cela. Décidez où vit la chaîne et vous avez décidé où vit la connaissance de votre entreprise.

La chaîne est le problème de confidentialité

Parcourez la recette cloud standard pour cette fonctionnalité et comptez les tiers. Les documents sont encodés via une API d'embeddings hébergée. Les vecteurs vont dans un service managé de base de données vectorielle. Les questions sont routées via une autre API vers un modèle hébergé. Les journaux s'accumulent à chaque arrêt, sous la politique de conservation de chaque fournisseur. Quatre parties externes, chacune une réponse que vous devez désormais à l'auditeur.

Des organisations qui ne téléverseraient jamais un contrat font volontiers passer le même contrat par une API d'embeddings, parce que « ce ne sont que des vecteurs ». Les embeddings ne sont pas des nombres anonymes. Ils sont un encodage, avec pertes, du sens du texte, construit précisément pour que le sens puisse être recherché. Une base de données vectorielle alimentée par vos archives est vos archives, transformées. Traitez sa juridiction, sa mise à disposition et ses contrôles d'accès exactement comme vous traitez les documents eux-mêmes, parce que fonctionnellement c'est eux.

Une fois la chaîne vue en entier, la réponse mono-locataire cesse d'être une préférence et devient la conception. Une machine contient les documents, les embeddings, le modèle, les questions, les réponses et les journaux. La liste des tiers qui voient un token a une seule entrée : personne. Quand l'auditeur demande qui d'autre peut voir cela, c'est toute la réponse, et c'est un meilleur après-midi qu'un diagramme de flux de données avec cinq logos dessus.

Ce que signifie la couche managed

Nous dimensionnons le GPU au modèle et au corpus honnêtement (la logique d'appariement de la page GPU Servers est la version publique de cette conversation), nous déployons et réglons le serving stack derrière un endpoint compatible OpenAI, nous mettons en place le modèle d'embeddings et la base de données vectorielle à côté, et nous gardons l'ensemble en fonctionnement. Le travail d'intégration de votre équipe tient en deux points : pointer l'ingestion vers vos documents, et appeler l'endpoint. Les batailles de compatibilité, l'épinglage des drivers, les arbitrages de quantification se font sur notre temps, ce qui est tout l'intérêt de l'arrangement. Notre service GPU managed définit le périmètre d'ingénierie.

Pour qui c'est vraiment

Les secteurs se trient d'eux-mêmes selon ce qu'ils redoutent. Les équipes juridiques, parce que le secret professionnel est existentiel et qu'un contrat ne peut pas toucher une API tierce. La santé, parce qu'un incident à déclarer est le cauchemar et que le contexte du patient passe par les prompts. La fintech et l'assurance, parce que la question du régulateur doit avoir une réponse avec un nom dessus. Le secteur public, parce que la souveraineté devient de plus en plus une exigence d'achat plutôt qu'une préférence. Et les équipes produit qui bâtissent sur des poids ouverts, parce qu'une base de connaissances qui entraîne le modèle de quelqu'un d'autre est un fossé avec un trou dedans. Des peurs différentes, une seule architecture.

Et la limite honnête, parce que c'est l'habitude de la maison : si votre corpus est petit, à faible volume et vraiment pas sensible, une API hébergée est souvent la réponse raisonnable et nous vous le dirons quand vous demanderez. Cet article est pour les archives qui ne peuvent pas aller chez un tiers. Pour ces archives, la question n'a jamais été de savoir si l'assistant en valait la peine. C'était de savoir si les documents étaient en sécurité, et la réponse est d'arrêter de les envoyer où que ce soit.

“Les embeddings ne sont pas des nombres anonymes. Ce sont vos documents, encodés.”