AI Safety Research (badania nad bezpieczeństwem AI) to dziedzina naukowa zajmująca się identyfikowaniem przyczyn nieprzewidzianych zachowań systemów sztucznej inteligencji oraz opracowywaniem narzędzi zapewniających ich niezawodne działanie. Badania te koncentrują się na minimalizowaniu ryzyk społecznych i katastroficznych poprzez techniczne dopasowanie celów maszyn do ludzkich wartości (AI alignment) oraz zwiększanie ich odporności na ataki i błędy. Celem tej dyscypliny jest stworzenie bezpiecznych ram dla rozwoju i wdrażania zaawansowanych technologii AI, tak aby przynosiły one korzyści ludzkości bez skutków ubocznych.
Źródło: anthropic.com
