secopan newsletter - Juni 2025

Einsatz von KI-Systemen

“Künstliche Intelligenz ist wahrscheinlich das Beste oder das Schlimmste, was der Menschheit passieren kann.”

Dieses Zitat stammt von Stephen Hawking, der uns vor den Folgen des Kontrollverlustes der intelligenten Maschinen schon im Jahr 2017 warnen wollte. KI hat das Potenzial Geschäftsprozesse zu optimieren und innovative Lösungen zu bieten. Doch um KI verantwortungsbewusst und kontrolliert einzusetzen, braucht es schon vor der Einführung eine klare Struktur.

Liebe Kundinnen und Kunden,

im heutigen Newsletter geht es um das Thema Künstliche Intelligenz (KI) – ein Technologiefeld, das enorme Vorteile für unsere Wirtschaft und Gesellschaft bietet, sich rasant weiterentwickelt und bereits in vielen Bereichen Anwendung findet: in der Programmierung, im Marketing, bei der Texterstellung oder der Bildgenerierung.

Gerade weil die Möglichkeiten vielfältig sind, ist ein strukturierter und sicherer Umgang mit KI-Systemen – wie z. B. ChatGPT, Copilot oder anderen LLMs – unerlässlich. Wir möchten Ihnen hiermit eine wertvolle Handreichung an die Hand geben, sodass Sie KI sicher und vor allem kontrolliert einsetzten können.

Um Unklarheiten zu vermeiden, lassen Sie uns ein paar Begriffe kurz erläutern:

  • Ein KI-System ist ein maschinelles System, das selbstständig – also in unterschiedlichem Maß autonom – arbeitet. Es verarbeitet Eingaben (z. B. Texte, Zahlen, Bilder) und erzeugt daraus Ausgaben wie Vorhersagen, Vorschläge, Inhalte oder Entscheidungen, die Auswirkungen auf reale oder digitale Umgebungen haben können.
  • Anbieter oder Hersteller ist das Unternehmen, das ein KI-System entwickelt oder anbietet, z. B. Open AI.
  • Betreiber sind Organisationen (Unternehmen oder Behörden) die ein KI-Systeme wie Chat GPT einsetzen oder verwenden.

Die Begriffe gibt es hier zum Nachlesen. https://ai-act-law.eu/de/artikel/3/

Wir empfehlen Ihnen den Einsatz von KI in folgenden Schritten zu planen:

Schritt 1: Brain-Storming
Bevor Sie ein KI-System einsetzten, sollten vorher folgende Fragen verbindlich geklärt werden:

  • Was genau soll die KI tun? (Zweck)
  • In welchem Prozess oder Arbeitsbereich soll sie eingesetzt werden?
  • Welche Daten fließen ein – wie sind diese klassifiziert? (intern, vertraulich oder öffentlich). Fließen auch personenbezogene Daten in die KI ein?
  • Welche Chancen bietet der Einsatz – und welche Gefahren bestehen?

Tipp: Führen Sie eine Kurzumfrage oder Ideensammlung in den verschiedenen Abteilungen durch. Die Ergebnisse helfen dabei, den Einsatz sinnvoll zu planen – und darauf abgestimmte Maßnahmen, Verantwortlichkeiten und Vorgaben zu entwickeln.

Wichtig: Die Nutzung von KI auf Dienstgeräten ohne Planung, Regeln und abgestimmte Vorgaben ist grundsätzlich unzulässig.

Schritt 2: Regulierung und Schulung
Sind das Anwendungsgebiet und der Anbieter festgelegt, sollten im nächsten Schritt klare Vorgaben sowie eine entsprechende Sensibilisierung erfolgen. Etablieren Sie eine klare KI-Richtlinie in Ihrer Organisation, die gewährleistet, dass jeder KI richtig nutzt.

Wir helfen Ihnen dabei, sprechen Sie uns an!

Schritt 3: kontinuierlich verbessern/verfolgen
Mit der Festlegung von Zweck und Regeln ist es nicht getan. Die eigentliche Herausforderung liegt darin, mit der ständigen Weiterentwicklung der KI mitzuhalten. KI-Technologien entwickeln sich in rasantem Tempo weiter und KI-Systeme werden sich im Laufe der Zeit durch neue Eingaben anpassen und „dazulernen“.

Deshalb ist die Nutzung immer Teil eines kontinuierlichen Verbesserungsprozesses.

Das bedeutet:

  • Anwendungsfälle regelmäßig überprüfen
  • neue Risiken und Funktionen im Blick behalten
  • Sicherheitsvorgaben dynamisch anpassen

Bei Rückfragen oder zur Unterstützung bei der Einführung von KI-Systemen stehen wir Ihnen gerne zur Verfügung.