Здравствуйте, Александр!
1) Результат на картинке соответствует настройкам программ — показания осциллографа и самописца правильные, а вот вольтметр переменного тока показывает ерунду. Попробуйте снимать показания в режиме «медленно» или даже «сверхмеделно», все-таки частота 5 Гц — это период 0,2 сек, и усреднять данные за 0,1 секунду — это иметь полпериода сигнала для измерений. При настройке программ не забудьте подобрать частоту дискретизации АЦП и ЦАП.
2) Прежде всего в программе «Виброметр» стоит фильтр — поэтому показания «Виброметра» и других программ (Осциллографа, самописца, вольтметра) будут отличаться. Также во всех программах есть параметр «усреднение» — если он разный, то и результат может быть разным (зависит от частоты сигнала).
Также следует помнить, что амплитудное и пиковое значение — не совсем одно и то же. Пиковое значение — максимальное значение за время усреднения. Амплитудное — среднее значение амплитуды за время усреднения. На реальном сигнале амплитуное несколько меньше пикового.
Записывать сигналы для постобработки лучше с помошью программы «Запись сигналов» — тогда их можно анализировать любой программой из состава ZETLab. Многоканальным самописцем обычно ведут запись параметров для отчета или последующего просмотра.