KI beeinflusst Entscheidungen, die Menschen betreffen – oft ohne klare Regeln, meist intransparent, unfair und unkontrollierbar. Eine KI-Governance schafft einen Rahmen, der festlegt, ob und wie KI entwickelt, eingesetzt und überwacht wird. Sie regelt, wer die Verantwortung für KI-Systeme trägt und wer sie kontrolliert. Sie trägt zum Schutz der Grundrechte und zur Nachvollziehbarkeit von Entscheidungen bei. Sie fördert ausserdem Vertrauen, wenn sie zeigt, dass die KI nach transparenten Prozessen, mit ausreichender Aufsicht und unter Mitbestimmung eingesetzt wird. Ausserdem hilft sie dabei, Risiken zu erkennen und zu verringern – beispielsweise Abhängigkeiten von Technologieanbietern, Datenmissbrauch oder Fehlentscheidungen in sensiblen Bereichen. Das Ziel einer KI-Governance besteht darin, zu verhindern, dass die Technik bestimmt, was geschieht, sondern vielmehr sicherzustellen, dass Menschen bewusst festlegen, was KI darf – und was nicht.