Querying and Verification of Neural Networks

Abstract

Eerder onderzoek toont aan dat SQL in theorie gebruikt kan worden om neurale netwerken te verifiëren en er white-box queries op uit te voeren. In deze thesis bewijzen we dat dit ook in de praktijk mogelijk is, met acceptabele uitvoertijden zelfs op standaard hardware — tenminste voor netwerken van een gemiddelde grootte. De kracht van onze SQL-aanpak zit in de zeer expressieve queries, die vervolgens onafhankelijk zijn van het netwerk dat wordt bevraagd. Toch zijn er belangrijke beperkingen die in de toekomst aangepakt moeten worden, namelijk het uitbreiden van onze aanpak naar meer types neurale netwerken en het onderzoeken van technieken om te schalen naar grotere netwerken.