Eine der Fragen, die ich regelmäßig sehe, wenn es um den Fortschritt von PS5-Hacks geht, ist, ob Tools wie ChatGPT genutzt werden könnten, um beim Reverse Engineering der Konsole oder einiger ihrer Abwehrmechanismen wie dem mittlerweile berüchtigten Hypervisor zu helfen.

Hier ist eine Meinung, die wahrscheinlich wie gute Milch altern wird, also nimm es einfach für das, was es ist, ein Tirade unter der Woche : Meiner Meinung nach lautet die Antwort nein. Oder zumindest nicht so direkt, wie die Leute vielleicht denken.

Wie KI heute bei Computerangriffen eingesetzt wird

In letzter Zeit gab es viele Artikel über chatGPT und seine Anwendungsfälle in der Programmierung im Allgemeinen und in der Cybersicherheit im Besonderen.

Techopedia beschreibt mehrere Möglichkeiten, wie Cyberkriminelle KI nutzen könnten, um Netzwerke anzugreifen, von denen einige angeblich bereits verwendet werden:

• Erstellen von Deepfake-Daten.
• Erstellen besserer Malware.
• Stealth-Angriffe.
• KI-unterstütztes Passwortraten und CAPTCHA-Knacken.
• Generative Adversarial Networks (GANs).
• Menschliche Identität auf Plattformen sozialer Netzwerke.
• Bewaffnung von KI-Frameworks zum Hacken anfälliger Hosts.
• Tiefe Exploits.
• ML-fähige Penetrationstest-Tools.

Viele dieser möglichen „Angriffe“ beruhen auf menschlichen Fehlern am anderen Ende (z. B. menschlicher Identitätswechsel), Computersystemen, die nicht auf dem neuesten Stand sind (z. B. Hacken anfälliger Hosts durch KI-Frameworks) oder im Zusammenhang mit Hacking einfach irrelevant sind a „Black Box“ wie die PS5. (z. B. CAPTCHA-Cracking).

Eines in dieser Liste sieht jedoch so aus, als könnte es vage auf das Hacken einer Konsole zutreffen: die Verbesserung von Penetrationstest-Tools durch ML. Im Falle eines Geräts wie PS5 könnte dies für Fuzzing-Tools, Decompiler und dergleichen gelten. Mit anderen Worten, und das wurde bereits von vielen Entwicklern erwähnt, kann KI (derzeit) als Assistent sehr nützlich sein, um vorhandene Tools oder Daten zu verbessern.

Im Falle des Reverse Engineering einer Konsole wie der PS5 bedeutet dies, dass die KI heute sehr praktische Anwendungen in Dekompilierungstools wie Ghidra oder IDA Pro haben könnte, die Hackern einen Großteil der eigentlichen „Reverse Engineering“-Arbeit abnehmen, indem sie Menschen zur Verfügung stellen lesbarer Code fast aus der Box. Ich bin davon überzeugt, dass die Hersteller von Disassemblern hart daran arbeiten, dies früher oder später zu realisieren. Tatsächlich gibt es bereits Plugins , die chatGPT in Ghidra verwenden.

Es gibt auch den anhaltenden Gedanken, dass KI sich Code (kompiliert oder für Menschen lesbar) ansehen und Fehler darin finden könnte. Viele Leute in der Programmier- und Infosec-Community haben ziemlich beeindruckende Beispiele für die Erkennung von Codeproblemen durch ChatGPT geteilt.

ChatGPT nutzt einen Pufferüberlauf aus 😳 pic.twitter.com/mjnFaP233h

– Brendan Dolan-Gavitt (@moyix) 30. November 2022

Sehr cool! Ich habe es nach einigen verschiedenen Codebasen gefragt und es hat mich mit einigen seiner Antworten überrascht. Selbst wenn es den fraglichen Code nicht kennt, kann es oft ein zweites Paar Augen sein, um ein Code-Snippet zu verstehen.

– nedwill (@NedWilliamson) 25. Januar 2023

Könnte KI zum Hacken der PS5 verwendet werden?

Basierend auf diesen frühen Erkenntnissen schwitzen einige Leute in der PS5-Hacking-Szene bei der Aussicht, mit ChatGPT Fehler „einfach“ in Webkit- oder PlayStation-Firmware-Dateien zu finden, aber sie übersehen zwei kritische Punkte:

Erstens stützt sich die KI auf vorhandene Daten. Es besteht kein Zweifel, dass ein ausreichend fortgeschrittenes KI-Programm in der Lage sein wird, Fehler in bestehendem Open-Source-Code wie Webkit zu finden, und es passiert wahrscheinlich bereits irgendwo. Aber der größte Teil des Codes auf der PS5 ist Closed Source, und einige der interessantesten Teile, wie der Hypervisor , sind nicht nur proprietär, sie haben auch einen sehr geringen Platzbedarf (also weniger Softwarefehler) und sind vollständig neu/unbekannt. AI hat keine Daten darüber, was ein „PS5-Hypervisor“ ist, geschweige denn, wie sein Code aussieht. Die KI könnte sich möglicherweise andere Implementierungen von Hypervisoren/virtuellen Maschinen ansehen und mögliche Angriffsvektoren für Hacks in einem etwas „äquivalenten“ System (der PS5) vorschlagen, aber das hört hier auf.

Zugegeben, es ist wahrscheinlich, dass die PS5 einen Teil ihres Codes mit der PS4 teilt, die, auch wenn sie nicht „offiziell“ öffentlich ist, seit einiger Zeit entschlüsselt wurde. Vorhandene Daten könnten also helfen, das Innenleben der PS5 besser zu verstehen. Aber all dem würde der zweite Punkt fehlen:

Noch wichtiger ist, dass solche KI-basierten Schwachstellenerkennungsmechanismen in den Händen großer Unternehmen sein werden, bevor sie Hacker erreichen. Das ist insgesamt wahrscheinlich eine gute Sache (wir wollen schließlich, dass unsere Bank-Websites und unsere Telefone schwierigere Ziele für Angriffe sind), aber im Fall von PS5s Jailbreak bedeutet dies höchstwahrscheinlich, dass Sony die Fehler gefunden hat (teilweise dank KI) weit vor Hackern. Ein kostenloser, ultraeffizienter Ersatz für ihr Prämienprogramm, wenn Sie möchten. Solche Tools sind möglicherweise bereits vorhanden , und es ist wahrscheinlich, dass Sony sie im Auge behält, wenn sie sie nicht bereits verwendet.

Fazit: PS5-Hardware-Hacks könnten der einzige Weg sein

Meiner bescheidenen Meinung nach wird es für Hacker also nicht nur schwierig sein, KI zu nutzen, um beim Hacken eines Blackbox-Systems wie der PS5 zu helfen, ich denke, KI wird sogar dazu beitragen, zukünftige Konsolen und Verbrauchergeräte noch mehr zu sichern, was zunichte gemacht wird alle Vorteile, die es Jailbreak-Erstellern später bringen könnte.

Der einzige Aspekt, den Unternehmen wie Sony jedoch nicht einfach mit KI beheben können, ist die Hardware. Jeder Hardware-Hack, der voranschreitet, wird äußerst wertvoll sein, da er unmöglich zu beheben ist (das heißt, ohne ein neues Modell). Aus diesem Grund ist ein Hack wie Fusée Gelée auf Nintendo Switch so großartig, da eine mit diesem Exploit gehackte Konsole nicht gepatcht werden kann.

Da haben Sie es also, meine Meinung ist, dass KI zwar wahrscheinlich (auch heute noch) bei einigen Reverse-Engineering-Aufgaben helfen kann, aber ich sehe keinen cleveren Hack für ein Blackbox-System. Darüber hinaus denke ich, dass die KI auf lange Sicht der Sicherheit von Verbrauchergeräten und Walled Gardens mehr zugute kommen wird als ihrem „Gegenspieler“, Jailbreaks.