в HDMI разрешение ставлю 800х600, и изображение становится маленьким
 

По умолчанию выставляет какое-то очень высокое разрешение, максимальное. И показывает на весь экран, как надо, только не прочесть ничего. А в VGA всё нормально. Контроллер неизвестно какой, более всего похож на VS-TY2662-V1. В заказе написано "HDMI+VGA+Ypbpr+AV controller board for 7inch AT070TN90". Держал "menu" и другие кнопки для автоподстройки, ничего не меняется. Блин, уже провёл по машине все провода и кабели, думал, что потом настрою... Может, кому известно решение?

Каким шнурком подключён моник и на чём система (видео, мать, проц)?

Увы, это это особенности контролера матрицы.
Либо искать возможности его настройки (что вряд ли), либо менять на другой, который будет масштабировать разрешение на полный экран.

выложите, плз, фото платы контроллера и считанный Raw EDID

Вопрос решался больше месяца) Спалил процессор контроллера матрицы. Заказал новый проц. Он долго шел.
Выставил нужное разрешение путём ковыряния в прграмме PowerStrip. Но тоже с ньюансами. Ставишь нужное разрешение - рамку делает. Ставишь ненужное - без рамки, но всё мелкое. Потом - разрешение, ближе к своему. И снова большее. И так всё ближе и ближе к своему 800х480, пока не сработало. Потом сразу прогу удалил, иначе она при старте всё сбивает. Сам толком не понял, что наделал)
А проблема в том, что видюха - старый радеон (1550 вроде), толком не поддерживаемый в вин7 и вин8.
Жаль, что контроллер после ремонта делает только 8 бит (256 цветов). Говорят, прошива слетела... Хрен где её найдёшь теперь... Контроллер - UT-2668-N2, матрица AT070TN90.

фото вашего контроллера выложите, плз, -- возможно попробовать прошивку поискать под нее...

можно попробывать обмануть судьбу таким макаром-выставляешь разрешние которое растягивает изображение на весь экран,а потом в настройках разрешения в самой винде сделать масштабирование такое как тебе нужно без всяких повертрипов.у меня на сеиёрке так и живёт