Persönlich. Hochwertig. Keine Chatbots. — Bei uns kümmert sich ein persönlich erreichbar Mensch.

Schlagwort: AI-Act

Rechtsanwalt für AI-Act: Rechtsanwalt Jens Ferner, Fachanwalt für IT-Recht, ist Ihr Rechtsanwalt für den AI-Act. Der „AI-Act“ ist die Kurzbezeichnung für den Verordnungsentwurf zur Regulierung der Künstlichen Intelligenz in der Europäischen Union, den die Europäische Kommission im April 2021 vorgelegt hat. Der vollständige Name lautet „Verordnung über einen europäischen Ansatz für Künstliche Intelligenz“ und ist Teil der umfassenden Digitalstrategie der EU, mit der ein Rechtsrahmen für die Nutzung von KI-Technologien in den Mitgliedstaaten geschaffen werden soll.

Hauptziel des AI-Act ist es, ein Gleichgewicht zwischen der Förderung von Innovation und Wettbewerbsfähigkeit im Bereich der KI und dem Schutz der Grundrechte, der Sicherheit und der Privatsphäre der Bürgerinnen und Bürger der EU herzustellen. Einige der wichtigsten rechtlichen Fragen und Aspekte, die sich aus dem AI Act ergeben, sind folgende

  • Klassifizierung von KI-Systemen: Der AI-Act teilt KI-Systeme in verschiedene Risikokategorien ein, wobei für Systeme mit hohem Risiko strengere Anforderungen gelten. Rechtliche Fragen ergeben sich hier z.B. hinsichtlich der genauen Abgrenzung dieser Kategorien und der Definition von Risiken.
  • Transparenz und Dokumentation: Der AI Act verpflichtet Hersteller und Anwender von KI-Systemen zu einer umfassenden Dokumentation ihrer Systeme, um die Einhaltung der gesetzlichen Anforderungen nachweisen zu können. Dies wirft Fragen zu Umfang und Art der erforderlichen Dokumentation sowie zu datenschutzrechtlichen Aspekten auf.
  • Haftung und Sanktionen: Das KI-Gesetz schlägt auch eine Änderung der bestehenden Haftungsregelungen vor, um KI-Systemen und ihren Entwicklern eine angemessene Verantwortung zuzuweisen. Rechtsfragen betreffen hier unter anderem die Festlegung von Haftungsgrundsätzen und die Festlegung von Sanktionen bei Verstößen gegen die Regelung.
  • Aufsicht und Kontrolle: Das KI-Gesetz sieht die Einrichtung nationaler Aufsichtsbehörden vor, die die Einhaltung der Verordnung überwachen sollen. Rechtsfragen betreffen hier die Kompetenzen dieser Behörden, die Zusammenarbeit zwischen den Mitgliedstaaten und die Rolle der EU-Kommission bei der Koordinierung der Aufsicht.
  • Internationale Zusammenarbeit: Da KI-Technologien global eingesetzt werden, ist die internationale Zusammenarbeit bei der Regulierung von KI von entscheidender Bedeutung. Rechtliche Fragen stellen sich in Bezug auf die Harmonisierung von Rechtsvorschriften und die Zusammenarbeit mit Drittstaaten.

Der AI-Act ist also ein wichtiger Schritt auf dem Weg zu einem gemeinsamen europäischen Rechtsrahmen für Künstliche Intelligenz. Die hier aufgeworfenen Rechtsfragen werden in den kommenden Jahren intensiv diskutiert und weiterentwickelt werden.

  • Was ist ein KI-System?

    Was ist ein KI-System?

    Was ist ein KI-System im Sinne der KI-VO: Die KI-Verordnung (der „AI Act“) reguliert europaweit KI-Systeme. Dabei ist die erste und wichtigste Frage: Was ist überhaupt ein KI-System?

    (mehr …)
  • Gefahr von durch Künstliche Intelligenz hergestelltem kinderpornografischen Material im Internet

    Gefahr von durch Künstliche Intelligenz hergestelltem kinderpornografischen Material im Internet

    Die Bundesregierung hat zu der zunehmenden Gefahr von durch Künstliche Intelligenz (KI) hergestelltem kinderpornografischen Material im Internet Stellung genommen (BT-Drucksache 20/11301). Diese Thematik wird immer relevanter, da moderne KI-Tools wie Stable Diffusion, die ohne Sicherheitsmechanismen auskommen, für die Erstellung solcher verstörenden Inhalte missbraucht werden. Hier ist ein umfassender Überblick über die Stellungnahme der Bundesregierung und die rechtlichen Konsequenzen.

    (mehr …)
  • KI in der weltweiten Politik

    KI in der weltweiten Politik

    Es ist sinnvoll, sich zunächst mit der aktuellen globalen politischen Landschaft im Bereich Künstliche Intelligenz (KI) zu befassen – insbesondere mit den Entwicklungen in den USA, da viele marktbeherrschende Lösungen von dort stammen. In vielen Ländern wird an eigenen Lösungen gearbeitet, etwa schon länger in Brasilien, während manche Länder wie die Schweiz oder Japan von eigenständigen Gesetzen absehen wollen und auf einen Mix von Richtlinien und punktuell angepassten, bestehenden Gesetzen setzen.

    (mehr …)
  • KI-Haftungsrichtlinie: Richtlinie zur KI-Haftung

    KI-Haftungsrichtlinie: Richtlinie zur KI-Haftung

    Rechtsanwalt für die Richtlinie zur KI-Haftung („KI-Haftungsrichtlinie“): Der Entwurf für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (KI-Haftung) zielt darauf ab, einheitliche Anforderungen für die Haftung bei Schäden, die durch KI-Systeme verursacht werden, zu schaffen.

    Update: Die EU-Kommission hat am 12.02.2025 in ihrem Arbeitsprogramm bekannt gegeben, dass man diesen Richtlinienentwurf verwerfen wird. Irgendwann soll das in neuer Form aufgegriffen werden.

    (mehr …)
  • DSGVO-Bußgelder

    DSGVO-Bußgelder

    Wenn Datenschutzverstöße zum Kostenfaktor werden – und wie Führungskräfte gegensteuern können: Die Datenschutz-Grundverordnung (DSGVO) ist längst kein abstraktes Regelwerk mehr, sondern eine reale wirtschaftliche Bedrohung. Seit ihrem Inkrafttreten haben Bußgeldbescheide in Millionenhöhe gezeigt, dass Datenschutzverstöße nicht nur ein Compliance-Risiko, sondern ein existenzielles unternehmerisches Problem darstellen können.

    Doch während viele Unternehmen in aufwendige technische Lösungen investieren, wird oft übersehen, dass die größte Gefahr nicht in der Technologie selbst liegt, sondern in der rechtlichen Bewertung von Verstößen – und in der Frage, wer dafür überhaupt haften muss.

    (mehr …)
  • 欧洲信息技术法

    欧洲信息技术法

    欧洲 IT 法律师

    您的欧洲 IT 法律师:欧洲 IT 法是一个复杂多变的法律领域,涉及欧盟(EU)的信息技术监管。它涵盖广泛的主题,包括数据保护、网络安全、电子商务、知识产权和电信。

    欧洲 IT 法对成员国的国家 IT 法具有重大影响,因为它为欧盟的数字单一市场创建了一个共同的法律框架。这使得在欧洲层面对所有欧盟成员国的 IT 法选定领域进行基本法律评估成为可能。

    IT法律专业律师延斯-费纳(Jens Ferner)就欧洲IT法律为企业提供咨询:IT 法律的欧洲化为欧洲以外的公司提供了一个机会,使其能够提前明确范围广泛、经济实力雄厚的欧盟地区的基本法律问题。尤其是数据法、数据保护法和 IT 安全法等显而易见的重要领域,都受到全欧洲法规的约束!


    欧洲信息技术法:基础知识和应用领域

    欧洲信息技术法是欧盟法律的组成部分,旨在建立一个标准化的数字单一市场。它对数据的使用和保护、网络和信息系统的安全、电子商务以及信息技术服务的用户和提供者的权利和义务做出了规定。

    该领域最重要的法律法规包括《一般数据保护条例》(GDPR)、《网络和信息系统安全指令》(NIS 指令和 NIS2 指令)以及《电子商务指令》。不过,还有一些与信息技术法没有直接关系的法案,如消费者法,它们决定了哪些一般条款和条件以及其他合同条款和条件是允许的。

    对国家信息技术法的影响

    欧洲信息技术法对各国信息技术法的影响是多方面的。一方面,它要求成员国将本国法律与欧盟要求相协调。这将使整个欧盟的 IT 法协调一致,从而促进跨境贸易和数据交换。其次,它为规范信息技术服务建立了一个共同的法律框架,为供应商和用户提供了法律确定性。第三,通过鼓励成员国使其立法现代化并适应技术发展,它可以成为国家信息技术立法改革的催化剂。

    一名专注于欧洲的 IT 法律师有助于认清全局,并从一开始就对国家法规进行解释,从而避免胜诉。

    欧盟范围内的 IT 法–有些东西正向您走来……

    IT法律,包括与数字化相关的法律问题,是欧盟在欧洲IT法律议程中的首要议题。您应该做好准备,事后清理比事前处理更耗时(因此也更昂贵)。今天,欧洲 IT 法必须成为每家数字化公司的首要议程–等待已不再是一种选择!

    欧盟的数字化政策已变得极为复杂,而您在 IT 法律方面的预期可能只是间接的。我们希望并将至少简要介绍所有重要主题,当然,IT 法律专业律师延斯-费纳(Jens Ferner)将为您提供建议:

    • 人工智能法:人工智能法(人工智能条例和人工智能指令) [Here with us]
    • CRA:《网络复原力法》[与我们在一起]
    • CSAM:儿童性虐待材料管理条例
    • DGA:数据治理法和数据法 [Hier bei uns]
    • DMA:数字市场法
    • DORA:数字运营复原力法
    • DSA:数字服务法
    • ECA: 欧洲芯片法 [Here with us].
    • EPVo: 电子隐私条例
    • MaRisk:风险管理的最低要求
    • MiCA:加密资产市场
    • NIS2:网络和信息系统安全指令 [Hier bei uns]
    • 供应链:供应链尽职调查法
    • TTPF: 欧盟-美国透明隐私框架
    • Geoblocking Regulation (EU) 2018/302:消除网购中的不合理歧视 [Here with us]
    • P2B 监管更公平 [Here with us]
    • Evidence Regulation [与我们在一起]

    欧洲 IT 法中的重要欧盟法案

    有几项欧盟指令和法规是国家 IT 法的特点。以下是其中最重要的几项,尽管我们的网站提供了更深入的概述

    1. 一般数据保护条例》(GDPR):该条例是欧洲数据保护法的核心组成部分。它规定了处理个人数据的严格规则,并赋予公民与其数据相关的广泛权利。GDPR 对国家 IT 法有重大影响,因为所有欧盟成员国都必须执行。
    2. 网络和信息系统安全指令(NIS 指令):该指令是首个欧盟范围内的网络安全法律文书。它要求成员国制定网络和信息系统安全的国家战略,并遵守一系列最低安全要求。网络复原力法》对该指令进行了补充,将对产品合规性产生明显影响。
    3. 电子商务指令(E-Commerce Directive):该指令规定了欧盟电子商务的各个方面,包括在线服务提供商的责任、商业通信和电子合同。
    4. 数字单一市场版权指令》:该指令旨在使欧盟版权法现代化并适应数字时代。它包含了关于网络平台对受版权保护内容的责任以及为教育目的获取作品的规定。
    5. 计算机程序:欧盟关于计算机程序法律保护的指令(第 2009/24/EC 号指令)是规范欧盟计算机程序版权保护的重要法律文书。该指令最初于 1991 年通过,后被第 2009/24/EC 号指令取代。该指令明确规定,计算机程序的表现形式受版权保护。这意味着程序的源代码和目标代码受到保护,但程序所依据的思想和原则不受保护。该指令还载有关于权利人权利的规定,包括复制、发行和向公众传播的权利。不过,它也规定了这些权利的例外情况,例如为个人使用而复制或修改程序,或为互操作性而进行反向工程。欧盟关于计算机程序法律保护的指令》对成员国的国家信息技术法产生了重大影响,因为它为欧盟的计算机程序版权保护创建了一个共同的法律框架。它要求各成员国根据指令的要求调整本国法律,以确保在整个欧盟范围内对计算机程序进行统一保护。
    6. 关于合同的指令:消费者权利指令》、《数字内容指令》和《货物销售指令》是 IT 法中合同法的主要特点。
    7. 消费者保护合作条例》(CPC 条例):该条例规定了欧盟各国消费者保护机构之间的合作规则,包括在数字领域执行消费者保护法。

    这些法案对各国的信息技术法产生了重大影响,因为它们为欧盟的信息技术服务监管建立了一个共同的法律框架,并要求各成员国根据欧盟法规调整本国法律。

    关于欧洲信息技术法的结论

    欧洲信息技术法对欧盟数字单一市场的形成起着决定性作用。它对各国的 IT 法产生了重大影响,因为它为 IT 服务的监管创建了一个共同的法律框架,并要求各成员国将本国法律与欧盟法规相协调。鉴于技术的飞速发展以及经济和社会的日益数字化,可以认为欧洲 IT 法在未来将继续对国家 IT 法的形成发挥关键作用。

  • CE-Kennzeichnung: Was ist das CE-Kennzeichen?

    CE-Kennzeichnung: Was ist das CE-Kennzeichen?

    Bildschirmfoto 2014-10-13 um 07.26.27

    CE-Kennzeichnung: Immer wieder sorgt das „CE-Kennzeichen“, die CE-Kennzeichnung, für einige Verwirrung, weil gerade Verbraucher glauben, es handelt sich hier um ein Qualitätsmerkmal.

    Dabei handelt es sich bei dem CE-Kennzeichen gerade um kein Qualitätsmerkmal, sondern alleine um eine „Konformitätsbescheinigung“. Grundlage ist die VERORDNUNG (EG) Nr. 765/2008, der man im Artikel 30 auch den Sinn des CE-Kennzeichens entnehmen kann:

    Die CE-Kennzeichnung darf nur durch den Hersteller oder seinen Bevollmächtigen angebracht werden. […] Indem er die CE-Kennzeichnung anbringt oder anbringen lässt, gibt der Hersteller an, dass er die Verantwortung für die Konformität des Produkts mit allen in den einschlägigen Harmonisierungsrechtsvorschriften der Gemeinschaft enthaltenen für deren Anbringung geltenden Anforderungen übernimmt.

    EU-Verordnung zur CE-Kennzeichnung
    (mehr …)
  • AI-Act: Der nächste Schritt ist getan (Juni 2023)

    AI-Act: Der nächste Schritt ist getan (Juni 2023)

    Das Europäische Parlament hat den nächsten großen Schritt zur Regulierung der Nutzung von Künstlicher Intelligenz (KI) in Europa gemacht. Das kürzlich verabschiedete KI-Gesetz (AI-Act, auch KI-Verordnung genannt, hier schon etwas ausführlicher vorgestellt) ist das weltweit Erste seiner Art und schafft einen umfassenden Rechtsrahmen für KI-Anwendungen.

    (mehr …)
  • Predictive Policing: Automatisierte Datenanalyse und Informationelle Selbstbestimmung

    Predictive Policing: Automatisierte Datenanalyse und Informationelle Selbstbestimmung

    Die Zukunft der Kriminalitätsbekämpfung liegt wahrscheinlich in einem Wandel von der reinen Reaktion hin zur Prävention. Technisch möglich wird dieser Wandel durch die Kombination zweier technologischer Entwicklungen: Auf der einen Seite eine eklatante Anhäufung von Daten („Big Data“) und auf der anderen Seite die zunehmende Möglichkeit, durch bestimmte Formen künstlicher Intelligenz diese Daten nicht nur auszuwerten, sondern daraus auch brauchbare statistische Vorhersagen zu gewinnen. Dies ermöglicht zumindest theoretisch die Vorhersage des Auftretens von Straftaten, das sogenannte Predictive Policing.

    Das Bundesverfassungsgericht hatte nun erstmals Gelegenheit, sich zu diesem Thema zu äußern. Die Entscheidung dürfte für Jahrzehnte richtungsweisend sein. Sie beginnt wenig überraschend mit der Klarstellung, dass, wenn gespeicherte Datenbestände mittels einer automatisierten Anwendung zur Analyse oder Auswertung von Daten verarbeitet werden, dies einen Eingriff in die informationelle Selbstbestimmung (Art. 2 Abs. 1 i.V.m. Art. 1 Abs. 1 GG) all derjenigen darstellt, deren Daten bei diesem Vorgang personenbezogen verwendet werden (1 BvR 1547/19 und 1 BvR 2634/20). Betroffen sind also nicht nur die Personen, die am Ende der Auswertung möglicherweise Gegenstand von (weiteren) Ermittlungsmaßnahmen sind.

    Ebenso hat das Bundesverfassungsgericht ausdrücklich klargestellt, dass dann, wenn die entsprechende automatisierte Datenanalyse oder -auswertung einen schwerwiegenden Eingriff in das informationelle Selbstbestimmungsrecht ermöglicht, dieser nur unter den engen Voraussetzungen gerechtfertigt werden kann, wie sie allgemein für eingriffsintensive heimliche Überwachungsmaßnahmen gelten. Das heißt: nur zum Schutz besonders gewichtiger Rechtsgüter, sofern für diese eine zumindest hinreichend konkrete Gefahr besteht.

    Auf das Erfordernis einer zumindest hinreichend konkretisierten Gefahr für besonders wichtige Rechtsgüter kann aus verfassungsrechtlicher Sicht nur dann verzichtet werden, wenn die zulässigen Analyse- und Auswertungsmöglichkeiten durch Regelungen insbesondere zur Begrenzung von Art und Umfang der Daten und zur Beschränkung der Datenverarbeitungsmethoden normenklar und hinreichend bestimmt so eng begrenzt werden, dass das Eingriffsgewicht der Maßnahmen erheblich reduziert wird. Dabei hat das BVerfG sogar einen Kriterienkatalog für die jeweilige Abwägung gleich mitgeliefert, der äußerst umfangreich ist, zugleich aber eine formelhafte Betrachtung im Keim unterbindet.

    (mehr …)
  • Künstliche Intelligenz in der Polizeiarbeit verlangt ein Umdenken

    Künstliche Intelligenz in der Polizeiarbeit verlangt ein Umdenken

    Der Einsatz künstlicher Intelligenz im Bereich der Arbeit von Ermittlern findet längst statt, mal unmittelbar als Modellprojekt, mal mittelbar, wenn Unternehmen von sich aus „intelligent“ nach Inhalten suchen. Die Frage ist, welche Auswirkungen dies auf den prozessualen Umgang haben soll, mit den Ergebnissen, die solche Techniken zutage fördern.

    (mehr …)
  • Gesichtserkennung wird verbreitet eingesetzt

    Gesichtserkennung wird verbreitet eingesetzt

    Die automatisierte Gesichtserkennung wird innerhalb der EU immer stärker eingesetzt, berichtet EURACTIV. Die Studie (hier als PDF).

    Das Problem dürfte sein, dass oft als scheinbar harmlose Pilotprojekt startende Testläufe letztlich zu breiten Masseneinsätzen führen, letztlich gleichsam schleichend solche weitreichenden Entwicklungen sich fortsetzen. Dabei verweist die Studie auf die EU-Entschliessungen zur künstlichen Intelligenz, die eine Begrenzung gerade auf gesetzlicher Ebene bedeuten würden.

    (mehr …)
  • EU-Digitalstrategie

    EU-Digitalstrategie

    Die EU-Digitalstrategie ist eine Idee der EU-Kommission, mit dem Ziel, „das kommende Jahrzehnt zur digitalen Dekade Europas zu machen“. Ziel sind der Ausbau der digitalen Souveränität Europas sowie Aufbau eigener Standards. Der Schwerpunkt liegt in den groben Themenbereichen Daten, Technologie und Infrastruktur.

    (mehr …)