Проблема решена, сутки провозился, заключение похоже на бред, но проблема оказалась в вентиляторе охлаждения карточки, при пересечении 90% оборотов кулера, дроссель начинает шипеть и карта уходит в защиту, поэтому при занижении частот все работало, потому что вертушка не доходила до 90%, не буду вникать в причины устал от нее, заменил вентилятор, радиатор оставил старый, теперь работает на заводских частотах, может кому пригодится, поломка редкая
Проблема решена, сутки провозился, заключение похоже на бред, но проблема оказалась в вентиляторе охлаждения карточки, при пересечении 90% оборотов кулера, дроссель начинает шипеть и карта уходит в защиту, поэтому при занижении частот все работало, потому что вертушка не доходила до 90%, не буду вникать в причины устал от нее, заменил вентилятор, радиатор оставил старый, теперь работает на заводских частотах, может кому пригодится, поломка редкая