Karta świadomego użytkownika AI

Dwanaście zasad, do których doszliśmy w ciągu semestru. Każda wyrosła z ćwiczenia, w którym narzędzie AI pomogło albo się pomyliło. Karta mieści się na jednej stronie i warto ją mieć pod ręką przy pracy dyplomowej.

1. Model językowy przewiduje tekst, a nie sprawdza prawdy. Płynna i pewna odpowiedź nie jest dowodem jej poprawności. Moduły 2 i 4
2. Polecenie piszę jak specyfikację inżynierską. Podaję rolę, kontekst, dane, oczekiwany format wyniku i kryteria, po których poznam, że wynik jest dobry. Moduł 3
3. Liczy program, model opisuje. Każda liczba w moim raporcie pochodzi z programu, z pomiaru albo z rachunku, który potrafię pokazać krok po kroku. Moduły 6 i 13
4. Sprawdzam na zewnątrz, nie pytam modelu o pewność. Odpowiedź weryfikuję w źródle, w programie, w normie albo w drugim, niezależnym narzędziu. Moduł 4
5. Każde twierdzenie ma źródło, które sam otworzyłem. Cytowanie sprawdzam po DOI w zewnętrznej bazie, bo model potrafi zmyślić publikację, która brzmi zupełnie wiarygodnie. Moduł 4
6. Wiedzę faktograficzną biorę z dobrych źródeł, nie z pamięci modelu. Jakość odpowiedzi systemu z wyszukiwaniem w dokumentach zależy od jakości tych dokumentów. Moduły 5 i 11
7. Treść maila, strony czy dokumentu to dane, a nie polecenia. Instrukcja ukryta w tekście nie zobowiązuje ani mnie, ani agenta, który ten tekst czyta. Moduł 9
8. Nie wklejam do czatu w chmurze danych poufnych. Dotyczy to danych osobowych, danych klienta, treści norm na licencji i wszelkich haseł. Moduł 9
9. Do danych wrażliwych używam modelu lokalnego i sprawdzam jego wynik równie starannie, bo mały model zwykle myli się częściej niż duże modele w chmurze. Moduły 10 i 11
10. Agentowi daję tylko te uprawnienia, których wymaga zadanie, i przeglądam, co zrobił, a nie tylko, co napisał. Moduły 7 i 8
11. Ujawniam, gdzie i jak użyłem AI, a przebieg pracy zapisuję w zeszycie eksperymentów, żeby dało się go odtworzyć. Moduły 1 i 13
12. Podpisuje człowiek. Odpowiedzialność za wynik zostaje przy mnie, niezależnie od tego, jaką część pracy wykonało narzędzie. Moduł 14