← Overzicht
briefing · AI & code

Google open-sourcet HEIR-compiler

· opgehaald 11:12

Google open-sourcet HEIR, een compiler die pretrained modellen omzet naar inferentie op versleutelde input via homomorfe encryptie. Daarmee kan een server rekenen op ciphertext zonder de onderliggende data te zien. Demo’s omvatten recommenders, fraudedetectie, netwerkanomalieën en hotword-detectie.

HEIR (Homomorphic Encryption Intermediate Representation) is een open-source compilertoolchain in Google’s Private Computing Toolkit. Het doel is pretrained AI-modellen die op onversleutelde data werken, om te zetten naar inferentie op versleutelde invoer. Homomorfe encryptie laat servers ciphertext verwerken en versleutelde resultaten teruggeven zonder de onderliggende informatie te zien. Dat verschuift de privacy-afweging van onmogelijkheid naar kosten, die volgens Google dalen.

Handmatig een programma efficiënt omzetten naar homomorfe encryptie vereist cryptografen. HEIR moet dat op termijn tot een one-click-oplossing maken voor niet-experts. Sinds Google de intentie in 2023 aankondigde, is het project een onderzoeksplatform geworden, met samenwerkingen met onder meer Georgia Tech, Carnegie Mellon en UC Santa Barbara. Vier peer-reviewed publicaties zijn erop gebouwd.

Google deelt vier private-inference-demo’s, gecompileerd met HEIR, met latentiecijfers op een single-threaded CPU. De broncode staat op GitHub. Het gaat om een Deep Learning Recommendation Model (met Belfort Labs, LG en NYU), creditcardfraude-detectie (met Niobium en hardshell.ai), anomaliedetectie op versleuteld netwerkverkeer via Kitsune (met Niobium), en een hotword-detector (met Belfort Labs). Google werkt ook samen met hardwareversnellers van Belfort, Niobium, Cornami en Optalysys.