OSFORYOU to fundacja badawczo-inżynieryjna. Rozwijamy zabezpieczenia AI dla organizacji, które pracują z poufnymi danymi i potrzebują kontroli nad działaniami systemów.
Ochrona danych.Kontrola działań.Dowody przebiegu pracy.
Model kontroli · interaktywna symulacja
Zatwierdź zakres, potem zmień odbiorcę.
Przykład lokalny. Bez wysyłki i podpisu kryptograficznego.
Gdzie mogą trafić informacje i kto może z nich korzystać.
Co AI może zrobić i kiedy potrzebna jest decyzja człowieka.
Jak odtworzyć decyzje, ich podstawy i rezultat działania.
Tak ma współdziałać nasza architektura: od reguł dostępu po zapis decyzji. Zobacz przykład lub wybierz zdarzenie, żeby poznać jego znaczenie.
Symulacja koncepcji. Bez modelu AI, wysyłki danych i podpisu kryptograficznego. Czasy i zdarzenia są ilustracją, nie pomiarem działającego systemu.
Fundacja OSFORYOU rozwija program badań nad wiarygodnością AI i kontrolą człowieka. Każdy mechanizm zaczyna się od pytania, które można poddać próbie.
Program i protokoły w przygotowaniuPrzekonująca odpowiedź i przypis to dopiero początek. Chcemy sprawdzić, czy konkretny fragment dokumentu wspiera konkretny wniosek — również wtedy, gdy źródła są sprzeczne.
Sama obecność przycisku zatwierdzenia nie wystarcza. Chcemy sprawdzić, czy zgoda dotyczy konkretnej operacji i czy zmiana zakresu lub cofnięcie uprawnienia zatrzymuje jej wykonanie.
Korekta powinna docierać także do wniosków opartych na błędnym ustaleniu. Projektujemy scenariusze sprawdzające pochodzenie informacji, jej aktualność i możliwość wycofania.
Sprawdzenie, że zapis nie został zmieniony, i sprawdzenie określonego obliczenia to różne zadania. Badamy zakres dowodu, jego koszt i informacje, które trzeba ujawnić.
Rozwijamy dwa produkty, które odpowiadają na różne potrzeby organizacji. Łączy je jeden cel: zachować kontrolę nad tym, jak AI pracuje z danymi i wykonuje działania.
by KLNR · nazwa robocza
Twoja infrastruktura. Twoje dane. Twoje zasady.
Chcemy własnego środowiska AI.
Projektujemy prywatne środowisko pracy na infrastrukturze organizacji. Modele, dane i zadania mają działać razem z kontrolą dostępu oraz weryfikacją wyników.
Sprawdzimy rzeczywisty ruch sieciowy i blokowanie wyjścia. Korzystanie z zewnętrznego API będzie osobnym, świadomie dopuszczonym wariantem.
Samodzielny produkt kontroli AI
Twoje AI. Twoje zasady.
Mamy już AI. Potrzebujemy kontroli.
Budujemy samodzielny produkt do określania dozwolonych działań, zatwierdzania istotnych operacji i sprawdzania ich przebiegu. Ma działać z Tuteno oraz w istniejących środowiskach AI.
Sprawdzimy, czy zmiana dokumentu, odbiorcy lub uprawnień zatrzymuje operację i czy można odtworzyć jej przebieg.
Czy zapis został zmieniony?
Projektujemy weryfikowalny rejestr operacji, w którym późniejszą zmianę zapisu można wykryć. Integralność zapisu nie dowodzi prawdziwości jego treści ani kompletności obserwacji.
Badamy, jak potwierdzić wykonanie ściśle określonego obliczenia i jakie informacje można przy tym zachować w tajemnicy. Dowód wykonania nie rozstrzyga, czy odpowiedź modelu jest prawdziwa.
Czy odpowiedź ma podstawę?
Projektujemy sprawdzanie twierdzeń, cytowań, obliczeń i struktury odpowiedzi. Gdy brakuje podstaw, system ma wstrzymać wynik lub przekazać go do oceny człowiekowi.
Czy wskazany fragment źródła uzasadnia wniosek? Ile błędów system przeoczył i ile poprawnych odpowiedzi niepotrzebnie wstrzymał? Praca na źródłach nie daje gwarancji nieomylności.
Pokazujemy kierunek prac i planowane mechanizmy. Status rozwoju nie oznacza gotowości do wdrożenia ani potwierdzenia zgodności z przepisami.
Poznaj pytania badawczeUdostępniamy przykłady, które pozwalają samodzielnie przyjrzeć się mechanizmom kontroli. To otwarte narzędzia do myślenia i testowania założeń.
Przyjrzyj się twierdzeniu i fragmentowi źródła. Sprawdź, co rzeczywiście z niego wynika.
Otwórz ćwiczenie i kartęZmień dokument, cofnij zgodę lub sprawdź przypadek, w którym nie można potwierdzić rezultatu.
Wejdź do laboratorium kontroliJesteśmy fundacją. Naszą pracę łączy pytanie: jak rozwijać AI, zachowując możliwość jej sprawdzenia, zakwestionowania i zatrzymania?
Poznaj Fundację OSFORYOUOpisujemy etap prac i granice demonstracji. W ocenie wyników znaczenie mają autorstwo, finansowanie i powiązania z podmiotami rozwijającymi wdrożenia.
Role, relacje i niezależność ocenyPorozmawiajmy o danych, decyzjach i dowodach, których potrzebujesz. Zapraszamy do współpracy badawczej i rozmów o przyszłych pilotażach.
Porozmawiajmy o współpracycontact@osforyou.org