serial_2usb

Ну так ведь это разные устройства. И их обслуживают разные драйвера. Соответственно, реализации ioctl для них тоже разные.

Какой драйвер используется конкретно у тебя, можно посмотреть в dmesg. Я в свое время работал с ch341. Так вот там, смотрю, такая команда тоже не поддерживается.

Наверно в драйвер устройства забыли вписать поддержку ioctl c вашим параметром. Скачайте исходники ядра и гляньте на драйвер вашего устройства.
Кстати, насчет дергать ногами rs232c через usb, весьма неблагодарное занятие. Скорость ни к черту (на порядок или даже несколько).
Реально у меня дергалось раз в 1мс. Что для некоторых задач (типа эмуляции интерфейсов) получается очень медленный обмен.
Опять же есть ощущение (ничем не подкрепленное), что некоторые usb2serial не совсем полностью поддерживают стандарт rs232c.
Поэтому простой обмен по 3-м проводам еще работает, а когда надо дерагть отдельными ногами, начинаются проблемы.

а сколько COM портов RS232 надо ? Не проще ли воткнуть плату на 2 кома (будет еще и принтерный) - это если действительно нужно управлять в реалтайм сигналами RS232. Кроме того посмотрите чип FT232.