Auf seiner weltweiten Entwicklerkonferenz am Montag stellte Apple erstmals seine Vision vor, seine Produktpalette mit künstlicher Intelligenz zu stärken. Das Hauptmerkmal, das praktisch für die gesamte Produktpalette gilt, ist die Apple Intelligenceeine Reihe von KI-basierten Funktionen, die die Bereitstellung personalisierter KI-Dienste bei gleichzeitiger Sicherheit sensibler Daten versprechen.
Es stellt Apples größten Sprung nach vorne dar indem wir unsere privaten Daten nutzen, um KI bei der Ausführung von Aufgaben für uns zu unterstützen. Um zu beweisen, dass dies möglich ist, ohne den Datenschutz zu beeinträchtigen, hat das Unternehmen nach eigenen Angaben eine neue Methode zur Verwaltung sensibler Daten in der Cloud entwickelt.
Apple sagt, dass sein datenschutzorientiertes System zunächst versuchen wird, KI-Aufgaben lokal auf dem Gerät selbst auszuführen. Werden Daten mit Cloud-Diensten ausgetauscht, werden diese verschlüsselt und anschließend gelöscht. Das Unternehmen behauptet auch, dass der Prozess, den es nennt Privates Cloud-Computing (Private Cloud Computing) unterliegen einer Überprüfung durch unabhängige Sicherheitsforscher.
Der Vorschlag geht davon aus ein impliziter Gegensatz zu Unternehmen wie Alphabet, Amazon oder Meta, die enorme Mengen personenbezogener Daten sammeln und speichern. Apple gibt an, dass alle an die Cloud übermittelten personenbezogenen Daten ausschließlich für die jeweilige KI-Aufgabe verwendet werden und nach Abschluss der Modellanwendung nicht mehr gespeichert werden oder für das Unternehmen zugänglich sind, auch nicht für Debugging- oder Qualitätskontrollzwecke.
Einfach ausgedrückt sagt Apple, dass die Menschen darauf vertrauen können, dass es unglaublich sensible Daten analysiert – Fotos, Nachrichten und E-Mails, die vertrauliche Details unseres Lebens enthalten – und auf der Grundlage dessen, was es dort findet, automatisierte Dienste anbietet. ohne die Daten tatsächlich online zu speichern oder angreifbar zu machen.
Er zeigte einige Beispiele, wie es in kommenden Versionen von iOS funktionieren wird. Anstatt beispielsweise Ihre Nachrichten nach dem Podcast zu durchsuchen, den Ihnen ein Freund gesendet hat, können Sie Siri bitten, ihn zu finden und für Sie abzuspielen. Craig Federighi, Senior Vice President of Engineering bei Software von Apple, erklärte eine andere Situation: Sie erhalten eine E-Mail, die ein Arbeitstreffen verzögert, aber Ihre Tochter tritt an diesem Abend in einem Theaterstück auf. Jetzt kann Ihr Telefon das PDF mit Informationen zur Leistung finden, den lokalen Verkehr vorhersagen und Ihnen sagen, ob es pünktlich ankommt. Diese Funktionen werden über die von Apple erstellten Apps hinausgehen und es Entwicklern ermöglichen, auch die Vorteile der KI von Apple zu nutzen.
Da das Unternehmen mehr Nutzen daraus zieht Hardware und Werbedienste, hat weniger Anreize als andere, persönliche Daten online zu sammeln, was es ihm ermöglicht, das iPhone als das privateste Gerät zu positionieren. Auch so, Apple ist bereits ins Fadenkreuz von Datenschützern geraten. Sicherheitslücken führten 2014 zum Durchsickern expliziter Fotos aus iCloud. Im Jahr 2019 wurden Auftragnehmer dabei erwischt, wie sie vertrauliche Siri-Aufnahmen zur Qualitätskontrolle anhörten. Es gibt weiterhin Streitigkeiten darüber, wie Apple mit Datenanfragen von Strafverfolgungsbehörden umgeht.
Die erste Verteidigungslinie gegen Datenschutzverletzungen ist laut Apple Vermeiden Sie Cloud Computing für KI-Aufgaben wann immer möglich. „Der Eckpfeiler des Personal-Intelligence-Systems ist die Verarbeitung auf dem Gerät“, sagt Federighi, was bedeutet, dass viele der KI-Modelle auf iPhones und Macs und nicht in der Cloud laufen werden. „Es hat Kenntnis von Ihren personenbezogenen Daten, ohne Ihre personenbezogenen Daten zu erheben.“
Das bringt einige technische Hürden mit sich. Zwei Jahre später Boom Mit KI erfordert das Senden von Anfragen an Modelle selbst für einfache Aufgaben immer noch enorme Mengen an Rechenleistung. Dies ist mit den in Telefonen und Laptops verwendeten Chips schwierig zu erreichen, weshalb nur die kleinsten KI-Modelle von Google auf den Telefonen des Unternehmens laufen können und alles andere über die Cloud erledigt wird. Apple behauptet, dass seine Fähigkeit, KI-Berechnungen auf dem Gerät durchzuführen, auf jahrelanger Forschung im Chip-Design beruht, die zu dem führte M1-Chips deren Einsatz im Jahr 2020 begann.
Jedoch, Nicht einmal die fortschrittlichsten Chips von Apple können das gesamte Spektrum an Aufgaben bewältigen, die das Unternehmen mit KI zu erfüllen verspricht.. Wenn Sie Siri bitten, etwas Kompliziertes zu tun, muss es diese Anfrage möglicherweise zusammen mit Ihren Daten an Modelle weiterleiten, die nur auf den Servern von Apple verfügbar sind. Dieser Schritt, sagen Sicherheitsexperten, führt zu einer Vielzahl von Schwachstellen Dadurch können Ihre Informationen externen Angreifern oder zumindest Apple selbst preisgegeben werden.
„Ich warne die Leute immer davor, dass Daten viel anfälliger werden, sobald sie das Gerät verlassen“, sagte Albert Fox Cahn, Geschäftsführer des Surveillance Technology Oversight Project und Dozent am Institute of Information Law der New York University School of Law (USA).
Apple behauptet, dieses Risiko mit seinem neuen Private Cloud Compute-System gemindert zu haben. „Zum ersten Mal in der Geschichte erweitert Private Cloud Compute die branchenführende Sicherheit und den Datenschutz von Apple-Geräten auf die Cloud“, schreiben Apple-Sicherheitsexperten in ihrer Ankündigung und stellen fest, dass personenbezogene Daten „niemandem außer dem Benutzer zugänglich sind.“ nicht einmal Apple. Wie funktioniert es?
Apple hat in der Vergangenheit Menschen dazu ermutigt, sich für eine Ende-zu-Ende-Verschlüsselung zu entscheiden (die gleiche Art von Technologie, die in Messaging-Apps wie Signal verwendet wird), um sensible iCloud-Daten zu schützen. Aber das funktioniert nicht mit KI. Im Gegensatz zu Messaging-Apps, bei denen ein Unternehmen wie WhatsApp den Inhalt Ihrer Nachrichten nicht sehen muss, um sie an Ihre Freunde zu senden, Die KI-Modelle von Apple benötigen unverschlüsselten Zugriff auf die zugrunde liegenden Daten, um Antworten zu generieren. Hier kommt der Datenschutzprozess von Apple ins Spiel. Zunächst behauptet Apple, dass die Daten nur für die jeweilige Aufgabe verwendet werden. An zweiter Stelle steht Dieser Prozess wird von unabhängigen Forschern überprüft.
Es versteht sich von selbst, dass die Architektur dieses Systems kompliziert ist, aber Sie können es sich so vorstellen ein Verschlüsselungsprotokoll. Wenn Ihr Telefon feststellt, dass es Hilfe von einem größeren KI-Modell benötigt, verpackt es eine Anfrage, die die von ihm verwendete Eingabeaufforderung und das spezifische Modell enthält, und sperrt diese Anfrage dann. Nur das verwendete spezifische KI-Modell verfügt über den entsprechenden Schlüssel.
Zur Frage von MIT Technology Review um Ob Benutzer benachrichtigt werden, wenn eine bestimmte Anfrage an cloudbasierte KI-Modelle gesendet wird, anstatt auf dem Gerät bearbeitet zu werdensagte ein Apple-Sprecher, dass es Transparenz für Benutzer geben werde, aber es seien keine weiteren Details verfügbar.
Dawn Song, Co-Direktorin des Center for Responsible Decentralized Intelligence an der University of California in Berkeley (USA) und Expertin für Private Computing, sagt, dass die Nachrichten von Apple ermutigend seien. „Die Liste der angekündigten Ziele ist gut durchdacht“, sagt er. „Natürlich wird es einige Herausforderungen geben, diese Ziele zu erreichen.“
Cahn sagt, dass das System nach den bisherigen Erkenntnissen von Apple offenbar die Privatsphäre viel besser schützt als andere derzeit existierende KI-Produkte. Allerdings lautet der gängige Refrain in ihrem Bereich „Vertrauen, aber überprüfen“. Mit anderen Worten, Wir werden nicht wissen, wie sicher diese Systeme unsere Daten aufbewahren, bis unabhängige Forscher ihre Behauptungen überprüfen können.wie Apple verspricht, und das Unternehmen reagiert auf seine Erkenntnisse.
„Die Öffnung für die unabhängige Begutachtung durch Forscher ist ein großer Schritt“, sagt er. „Aber das bestimmt nicht, wie Sie reagieren, wenn Ihnen Forscher Dinge sagen, die Sie nicht hören wollen.“ Apple antwortete nicht auf Fragen von MIT Technology Review darüber, wie das Unternehmen die Kommentare der Forscher bewerten wird.
Der Pakt zwischen Privatsphäre und KI
Apple ist nicht das einzige Unternehmen, das darauf setzt Viele von uns gewähren KI-Modellen nahezu unbegrenzten Zugriff auf unsere privaten Daten wenn das bedeutet, dass sie mühsame Aufgaben automatisieren können. Sam Altman von OpenAI beschrieb sein Traum-KI-Tool MIT Technology Review wie jemand, „der alles über mein Leben weiß, jede E-Mail, jedes Gespräch, das ich je geführt habe.“ Auf seiner eigenen Entwicklerkonferenz im Mai kündigte Google Project Astra an, ein ehrgeiziges Projekt zur Entwicklung eines „universellen KI-Agenten, der im Alltag nützlich ist“.
Es ist ein Glücksspiel, das viele von uns zum ersten Mal dazu zwingen wird, darüber nachzudenken, welche Rolle, wenn überhaupt, KI-Modelle bei der Art und Weise spielen sollen, wie wir mit unseren Daten und Geräten interagieren. Als ChatGPT zum ersten Mal auf der Bildfläche erschien, mussten wir uns diese Frage nicht stellen. Es war lediglich ein Textgenerator, der uns eine Geburtstagskarte oder ein Gedicht schreiben konnte, und die Fragen, die er aufwarf – etwa woher seine Trainingsdaten kamen oder welche Vorurteile er aufrechterhielt – schienen nicht allzu persönlich zu sein.
Jetzt, weniger als zwei Jahre späterBig Tech setzt Milliarden von Dollar darauf, dass wir der Sicherheit dieser Systeme genug vertrauen, um unsere privaten Daten preiszugeben.. Es ist noch nicht klar, ob wir genug wissen, um diese Entscheidung zu treffen, oder inwieweit wir darauf verzichten können, selbst wenn wir es wollen. „Ich mache mir Sorgen, dass durch dieses Wettrüsten mit künstlicher Intelligenz immer mehr unserer Daten in die Hände anderer geraten“, sagt Cahn.
Apple wird bald Betaversionen seiner Apple Intelligence-Funktionen herausbringen, beginnend im Herbst mit dem iPhone 15 und dem neuen macOS Sequoia, das auf Macs und iPads mit M1- oder neueren Chips laufen kann. Tim Cook, CEO von Apple, sagt: „Wir glauben, dass die Intelligenz von Apple unverzichtbar sein wird.“
