Есть набор рабочих Delphi-юнитов, которые с использованием библиотеки BLAS обрабатывают уже обученные нейросети на обычных CPU, в т.ч. с использованием инструкций AVX.
Необходимо адаптировать юниты для возможности опциональной обработки нейросетей не только на CPU, но и на GPU (NVidia CUDA).
Только для опытных специалистов, имеющих многолетний опыт именно по этой части!