На самом деле в том, что он отображает некий сигнал, похожий на меандр на частоте 1МГц при том, что "сыпется" уже при 500КГц, ничего удивительного нет. Это просто такой вид интерференции, связанный с превышением частоты Найквеста.
По правильному на входе АЦП должен устанавливаться ФНЧ, согласованный с частотой дискретизации, тогда такой странности не будет (ну почти).
