Нужна формула перевода x и y координаты из мировой системы в оконную

Эээээ….

Проверяешь что попадает в окно:

abs(x) <= wW / 2 && abs(y) <= wH / 2

Если да, то

wX = wW / 2 + x

wY = -(wH / 2 + y)

Или тут чота наркоманское?

Примени соответствующее афинное преобразование.

Как это делать написано в книге
2020, Шикин & Боресков, Основы компьютерной графики (учебник и практикум для вузов)

Школьнику невозможно объяснить вузовский материал на пальцах, нужен системный подход.

Какой вуз, задачка вида «мне 12 лет, купили компуктер с васиком, хочу написать игру»

мне 12 лет

В 14-ть лет Иван IV уже правил как Великий князь Московский.

а Петр Первый вообще взошёл на престол в 10.

в возрасте 12 лет на престол взошел Петр Алексеевич, внук Петра Великого.

А в 33 Иисус уже умер и воскрес, а ты ещё даже не умер!!!

Мне нужно чтобы при масштабировании окна кнопки тоже переезжали а не застывали на старом месте

А что у тебя за окна? При помощи какой библиотеки графических элементов ты их составляешь?

По х сдвиг влево на половину ширины окна.

По у сдвиг на половину высоты и смена знака.

Вообще такие темы на Лоре создавать… это какой то позор(с)

Или тут чота наркоманское?

Да, тут наркоманский автор темы.

Школьнику невозможно объяснить вузовский материал на пальцах, нужен системный подход.

Учился в вузе, подобные вещи нам специально не объясняли, как-то сами интуитивно справлялись.

да я когда-то знал но забыл, но там же еще важен размер окна, размер координатной плоскости и центр Oxy, поворот координатной плоскости - для общего вида

Если никогда не знал, да еще забыл, совсем плохо - никак не вспомнить (студенческая мудрость).

Растяжение по координате - умножить на чиселку. Поворот - умножить на матрицу поворота.

Не используй позиции button_x=10,button_y=20, а используй относительные позиции от размера окна, в каждом кадре отрисовки (но лучше по событию изменения размера окна всё же) получай размер окна. Затем для расположения кнопки всегда например в верхнем плевом углу тебе надо из размера окна по x вычесть размер кнопки по x, а в качестве y указать размер кнопки по y. Теперь как угодно изменяй размер окна кнопка будет торчать в углу окна. Если тебе надо кнопку в правом нижнем углу то из размера окна по x вычитаешь размер кнопки по x тоже самое с y. (при условии что позиция кнопки это её верхний левый угол)

поворот координатной плоскости - для общего вида

Тогда матрицы. https://www.gamedev.net/forums/topic/708406-opengl-screen-to-world-coordinates-varying-eye-position-and-look_at-position/5432692/