Resilience of homomorphically encrypted cloud-computations against integrity attacks: Challenges and countermeasures (REACT)

Team

Chair for IT Security and Cryptography, University of Wuppertal

  • Tibor Jager
    Tibor Jager’s research addresses fundamental open research questions on the theoretical foundations of real-world cryptography. He finished his PhD in 2011 at the Horst Görtz Institute of Ruhr-University Bochum. After Postdoc positions at the Karlsruhe Institute of Technology and Ruhr-University Bochum, he was appointed associate professor for IT security at Paderborn University in 2016 and is a full professor of IT security and cryptography at Bergische Universität Wuppertal since 2019. He received an ERC Starting Grant and the IETF Best Contribution to TLS 1.3 Award.

Chair of Control and Cyberphysical Systems, TU Dortmund

  • Moritz Schulze Darup
    Prof. Dr.-Ing. Moritz Schulze Darup received a Diploma degree in Mechanical Engineering, a B.Sc. in Physics, and a Ph.D. in Control Engineering from the Ruhr-Universität Bochum in 2008, 2010, and 2014, respectively. He became Assistant Professor and leader of an Emmy Noether group for encrypted control in 2019 at Paderborn University. Since 2020, he is Full Professor for Control and Cyberphyiscal Systems at TU Dortmund University. His research interests include secure, predictive, and data-driven control.

  • Janis Adamek
    PhD Student

Abstract

[EN] As cloud computing and AI-driven services increasingly rely on outsourced computations, ensuring both the confidentiality and integrity of sensitive data is critical for the resilience of modern systems in industrial control, AI-driven decision-making, smart grids, finance, healthcare, and many other application domains. Fully Homomorphic Encryption (FHE) has emerged as a powerful cryptographic tool, enabling computations on encrypted data without decryption. However, while FHE protects data confidentiality, it remains inherently vulnerable to integrity attacks, in which malicious servers or network adversaries may alter encrypted computations without detection, potentially compromising sensitive or critical applications.
The project, Resilience of Homomorphically Encrypted Cloud Computations Against Integrity Attacks (REACT), aims to systematically identify and analyze such threats and develop countermeasures to enhance system resilience against attacks. Our research will address two fundamental questions: (1) How can attackers exploit the inherent malleability of FHE to manipulate computations? (2) How can integrity in FHE-based outsourced computations be efficiently ensured without excessive computational overhead? We will investigate novel integrity verification techniques tailored to popular FHE schemes, such as the CKKS scheme, following a new approach that leverages unused SIMD slots and probabilistic integrity checks. Our goal is to provide practical mechanisms to detect and mitigate integrity attacks in privacy-preserving machine learning and networked control applications. Building on our previous work, this project will enhance system resilience by integrating robust integrity protections into homomorphic encryption frameworks. The results will contribute to more secure and trustworthy applications, supporting their safe deployment in real-world scenarios.

[DE] Da Cloud Computing und KI-gesteuerte Dienste zunehmend auf ausgelagerte Berechnungen angewiesen sind, ist die Gewährleistung der Vertraulichkeit und Integrität sensibler Daten für die Widerstandsfähigkeit moderner Systeme in den Bereichen industrielle Steuerung, KI-gesteuerte Entscheidungsfindung, intelligente Stromnetze, Finanzen, Gesundheitswesen und vielen anderen Anwendungsbereichen von entscheidender Bedeutung. Die vollständig homomorphe Verschlüsselung (FHE) hat sich zu einem leistungsstarken kryptografischen Werkzeug entwickelt, das Berechnungen mit verschlüsselten Daten ohne Entschlüsselung ermöglicht. FHE schützt zwar die Vertraulichkeit von Daten, bleibt jedoch von Natur aus anfällig für Integritätsangriffe, bei denen böswillige Server oder Netzwerkgegner verschlüsselte Berechnungen unbemerkt verändern und so sensible oder kritische Anwendungen gefährden können. Das Projekt „Resilience of Homomorphically Encrypted Cloud Computations Against Integrity Attacks” (REACT) hat zum Ziel, solche Bedrohungen systematisch zu identifizieren, zu analysieren und Gegenmaßnahmen zu entwickeln, um die Widerstandsfähigkeit des Systems gegen Angriffe zu verbessern. Unsere Forschung befasst sich mit zwei grundlegenden Fragen: (1) Wie können Angreifer die inhärente Malleability von FHE ausnutzen, um Berechnungen zu manipulieren? (2) Wie kann die Integrität in FHE-basierten ausgelagerten Berechnungen effizient gewährleistet werden? Wir werden neuartige Techniken untersuchen, die auf gängige FHE-Verfahren wie das CKKS-Verfahren zugeschnitten sind, und dabei einen neuen Ansatz verfolgen, der ungenutzte SIMD-Slots und probabilistische Integritätsprüfungen nutzt. Unser Ziel ist es, praktische Mechanismen zur Erkennung und Abwehr von Integritätsangriffen in datenschutzkonformen Anwendungen für maschinelles Lernen und vernetzte Steuerung bereitzustellen. Aufbauend auf unseren bisherigen Arbeiten wird dieses Projekt die Widerstandsfähigkeit von Systemen verbessern, indem robuste Integritätsschutzmaßnahmen in homomorphe Verschlüsselungsframeworks integriert werden. Die Ergebnisse werden zu sichereren und vertrauenswürdigeren Anwendungen beitragen und deren sicheren Einsatz in realen Szenarien unterstützen.