TernScope: co-progettazione modello--hardware per una segmentazione endoscopica ternaria

Abstract degli autori

La segmentazione medica su dispositivi edge deve conciliare dimensioni ridotte del modello, alta accuratezza e inferenza rapida. TernScope affronta questo compromesso attraverso la co-progettazione modello--hardware, imparando una rete di segmentazione compatta i cui operatori a pochi bit semplificano anche l’esecuzione hardware. I blocchi a canali separati con kernel di grandi dimensioni preservano il contesto spaziale limitando i calcoli, mentre la fusione dei rami elimina percorsi di inferenza ridondanti. L’addestramento consapevole della quantizzazione ternaria progressiva (TPQ) adatta quindi la rete fusa procedendo dagli strati profondi a quelli superficiali, passando per il decoder e infine agli strati di input e di predizione. Tutte le 25 convoluzioni usano pesi ternari e attivazioni a 8 bit, consentendo una memorizzazione in formato compattato e calcoli senza moltiplicatori. Il modello risultante usa 0,2483 M di parametri e 0,0949 GMAC, mantenendo un’accuratezza di segmentazione competitiva su dataset del dominio e dataset esterni. Con la stessa tecnologia a 45 nm, TernScope riduce dell’88,46% l’area dell’array di calcolo rispetto al Gemmini originale, un acceleratore ad array sistolico con moltiplicatori a 8 bit $\times$ 8 bit. Questi risultati indicano una possibile strada dalla segmentazione medica accurata e leggera a hardware compatto a pochi bit.