KI-Plattform

Die Nutzung von KI ist im Asylbereich in ganz Europa auf dem Vormarsch. Asylsuchende selber nutzen immer häufiger die vorhandenen Angebote, um sich über ihre rechtliche Situation kundig zu machen, Dokumente zu übersetzen oder in Kontakt mit Dritten zu treten. Behörden ihrerseits experimentieren wiederum mit KI-Plattformen, welche das Asylwesen effizienter machen sollen und z.B. Asylgesuche ‹vorfiltern›, um vorwiegend die Bearbeitungszeiten der Gesuche zu reduzieren (bspw. in den Niederlanden). In der Schweiz existieren relativ unübersichtliche Bestrebungen, Teil der Asylverfahren vermehrt über den Einsatz von KI abzuwickeln (vgl. hierzu die Motion 25.4068 der FDP-Fraktion: ‹Pilotprogramm KI-Assistenz in Asylverfahren›; https://www.parlament.ch/de/ratsbetrieb/suche-curia-vista/geschaeft?AffairId=20254068).

Die Stossrichtung innert der Behörden ist relativ klar: der Asylbereich soll ‹effizienter› werden. Wie genau, bleibt zwar schwammig, aber da die Asylsuchenden selber über keine grosse oder schlagkräftige Lobby verfügen, lassen sich entsprechende Bemühungen relativ widerstandslos umsetzen. Der Asylbereich dient seit Langem als eine Art ‹Laboratorium› für Vielerlei, dies wird ergo auch für den Einsatz von KI so sein.

NGOs haben sich bislang vorwiegend kritisch resp. ablehnend gegenüber der Nutzung von KI im Asylbereich geäussert. Dies ist unter dem Aspekt des Umgangs mit sensiblen Daten und zahlreichsten Fragen zum Datenschutz zwar nachvollziehbar, aber keine nachhaltig haltbare Position. Es reicht nicht, sich einfach zu verwehren. Der anti-utilitaristische Reflex im Sozialwesen ist ausgeprägt – umso wichtiger ist es, die Thematik gezielt anzugehen und KI so einzusetzen, dass sie nicht in blindem Galopp den Entwicklungen auf Behördenseite nacheilt. Wenn Behörden in diesem Kontext von von ‹Effizienz› reden, dann meinen sie vorwiegend ‹Beschleunigung›. Führt der Einsatz von KI auf Behördenseite letztlich tatsächlich zu mehr Beschleunigung im Asylbereich, so muss man diese Beschleunigung nicht zwingend mitgehen, aber sie innerhalb der eigenen Arbeit mitdenken.

Dies bildet den wahrscheinlichen Hauptaspekt der vorliegend geplanten Plattform: sie strebt keine ‹Effizienz› an und will auch nicht die Produktivität steigern. Vielmehr soll sie entlasten, wo es Sinn macht und Ressourcen schaffen, wo sie benötigt werden. Sie soll also als Werkzeug für die vertiefte Arbeit dienen, die nach wie vor zwischen Menschen stattfindet.

«Unser Projekt: die Schaffung einer KI-Plattform die den Betroffenen tatsächlich etwas nutzt und kostenlos ist»

Was wir ergo vorhaben, ist eine sinnvolle Anwendung für KI: mit dem Versuch, die juristische Beschwerdeführung zu unterstützen, lagern wir repetitive und zeitaufwendige Arbeiten aus und erleichtern das Auffinden von Information in umfangreichen Dokumentation oder vergangenen Fällen. Allein schon wenn in Chats die Daten nicht mehr anonymisiert werden müssen, wird die Arbeit mit KI effizienter. Wenn die KI dazu noch unsere Daten kennt, wird sie noch wertvoller. Der beschriebene Mittelweg zwischen reinen Chats und vollständiger Automatisierung stellt sicher, das wir das Beste aus Mensch und Maschine rausholen und nicht eine one-klick Lösung bauen, die nicht zufriedenstellend ist und liegenbleibt. Zudem entwickeln wir auch nur so lange weiter, wie wir effektiv Vorteile sehen.

Wir setzen die KI verantwortungsvoll ein, das heisst:

• Datenschutz: unsere Lösung schützt die Daten und Privatsphäre der Klient:innen.

• Fairness und Inklusion: Wir fragen uns stets welche Auswirkungen die KI für unsere Versorgung der Geflüchteten hat. Wir sind uns der Möglichkeit von diskriminierenden Resultaten (Biases) bewusst (die Sprachmodelle modellieren in erster Linie eurozentrische, englische Texte in denen nicht-westliche Namen, Länder oder Orte einseitig abgebildet sind. Bei der maschinellen Übersetzung von Beweismaterialien ist dies besonders gravierend.). Wir analysieren die Qualität dahingehend und stellen sicher, dass keine Gruppe oder Einzelpersonen deswegen schlechter versorgt werden

• Transparenz und Erklärbarkeit: Die Nutzenden sind sich der Limitierung der Lösungen bekannt und die Resultate von Automationsschritten lassen sich nachvollziehen.

• Verantwortung: Wir tragen die Verantwortung für die Resultate der KI-Lösung und stellen sicher, dass sich die Geflüchteten bei allfälligem Eigengebrauch der Risiken davon bewusst sind. Es ist unklar, ob es je so weit kommt, aber im Falle dessen wäre es wichtig, dass die Geflüchteten immer Zugang zu einer beratenden Person haben und nie alleine mit einer Maschine dastehen.

• Wir hinterfragen den Zweck der Effizienzgewinne: Wir sind uns bewusst, das wir mit Effizienzgewinnen dem Druck der Beschleunigung seitens der Behörden folgen. Wir halten darauf ein Auge. Durch das Sammeln von eigener Erfahrung mit KI können wir deren Einsatz bei der Behörde antizipieren, besser einschätzen und auf anderer Ebene politisch begegnen.

• Unsere Lösung trägt zum Aufbau eines Ökosystems für den verantwortungsvollen Einsatz von KI bei: Perspektivisch ist es für den verantwortungsvollen Einsatz von KI essentiell, dass die Herstellung und Kontrolle der Technologie von profitgetriebenen Techkonzernen an die Gesellschaft übergeht. Grundvoraussetzung dafür ist, das Lösungen transparent und mit offener Software gebaut und trainiert werden. Vielleicht werden wir zu Beginn die Modelle der Techkonzerne einsetzen müssen, aber wir tun dies mit einer Lösung, die nicht in deren Plattformen gefangen ist, sondern auf open-source Modulen aufbaut. So können wir auf verantwortungsvollere Modelle umsatteln wenn diese dereinst genug gut sind (beispielsweise der Schweizer Effort Apertus oder das französische Mistral.) Unsere Lösung soll von diversen Akteur:innen genutzt werden, was das Ökosystem alternativer KI Lösungen stärkt.

Die KI-Plattform mit einer Spende unterstützen