Aider les organisations à haut risque à apprendre plus vite de ce qui ne va pas, pour prévenir ce qui vient ensuite.
Les organisations de sécurité réalisent certains de leurs apprentissages les plus importants après que quelque chose se soit déjà mal passé. La qualité de cet apprentissage détermine si les mêmes conditions, défaillances de contrôles et tendances d'actions correctives continuent de se répéter. Les principes ci-dessous décrivent à la fois pourquoi nous construisons Haven et comment nous le construisons.
L'apprentissage ne devrait pas s'arrêter à la clôture de l'enquête.
Un incident crée de la preuve. Une enquête crée de la compréhension. Les actions correctives créent une réponse. Mais l'organisation n'apprend que lorsque cette compréhension change ce qui se passe ensuite.
Notre mission est d'aider les organisations à porter le savoir d'un événement vers la prochaine enquête, la prochaine décision opérationnelle et le prochain effort de prévention.
L'IA devrait renforcer le raisonnement de sécurité, pas réduire la responsabilité.
Nous croyons que l'IA peut aider les personnes à organiser une preuve complexe, identifier les lacunes, raisonner sur l'historique organisationnel et faire ressortir des tendances difficiles à voir manuellement.
Nous croyons aussi que les personnes responsables doivent demeurer responsables des conclusions et décisions de sécurité. Haven est conçu autour de ce principe.
La mesure n'est pas la quantité d'IA utilisée.
La mesure est de savoir si les enquêtes deviennent plus constantes, si la qualité devient plus visible, si les défaillances récurrentes sont reconnues plus tôt, et si l'organisation devient meilleure pour prévenir la récurrence.
C'est le résultat que Haven est construit pour appuyer.
Les principes derrière la façon dont Haven construit l'IA pour les opérations à haut risque.
La précision plutôt que la plausibilité
Dans un travail critique pour la sécurité, une réponse qui semble simplement raisonnable ne suffit pas. La preuve, les suppositions, le raisonnement causal et l'incertitude devraient demeurer visibles. Nous construisons pour la traçabilité et la clarté, pas pour un résultat qui semble confiant.
L'apprentissage plutôt que la clôture
Clore un dossier d'incident est un jalon administratif. Le véritable objectif est de porter la leçon vers l'avant. Nous concevons Haven pour que les enquêtes complétées deviennent partie intégrante du corpus de savoir grandissant de l'organisation.
La responsabilité humaine demeure humaine
L'IA peut organiser l'information, faire ressortir des tendances, mettre à l'épreuve le raisonnement et suggérer des questions. Les personnes responsables doivent demeurer responsables des conclusions de sécurité, des actions correctives et des décisions opérationnelles.
La pertinence opérationnelle compte
La technologie de sécurité doit fonctionner dans de vrais environnements d'exploitation, avec des systèmes existants, des procédures d'entreprise, des données imparfaites et des contraintes pratiques. Nous priorisons l'utilité plutôt que la nouveauté.
La confiance se gagne par la transparence
Les équipes de sécurité d'entreprise doivent comprendre pourquoi un système a fait ressortir un constat, d'où vient l'information et quelle preuve l'appuie. L'explicabilité et l'auditabilité sont des exigences de produit, pas des caractéristiques optionnelles.
Construire pour le système d'apprentissage, pas la tâche isolée
Nous voulons que chaque enquête, révision de qualité, action corrective et leçon historique renforce ce que l'organisation sait ensuite. La plateforme devrait améliorer le système, pas seulement automatiser une étape.