LINUX.ORG.RU
Форум — Development  

FFTW - сегфолт при N > ~8000


0

0

Сегфолт происходит в fftw_execute при размере преобразования от 8000...8200, и с FFTW2 и с FFTW3 (float и double), на двух разных машинах (AMD64 debian, i646 gentoo), так что, по идее, кто-нибудь еще должен был с этим столкнуться, но, как ни странно, в гугле пусто.

Собрал отладочную версию без SSE2, показало на ф-ю q1_5 (оно - весь файл - генерируется прогой на цамле), так что дальше незнаю куда копать.

★★

Опиши так, чтобы это можно было воспроизвести.

anonymous
()

> так что дальше незнаю куда копать.

man gdb?

mv ★★★★★
()

Код: ftp://ailr.starlink.ru/devel/opengl/work/my.tar.gz

>man gdb

А толку? В одном случае backtrace показывает q1_5 вызванную где-то внутри fftw_execute, убрал fftw_execute стало XPending -> glutMainLoopEvent -> glutMainLoop -> main.

Память выделял и простым malloc'ом и fftw_malloc'ом - без разницы. Учитывая то, что теперь gdb показывает на glut, я в полном недоумении =)

AiLr ★★
() автор топика

Всё, разобрался - был тупой выход за границы массива в моей ф-ии =)

AiLr ★★
() автор топика
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.
Development