WiFi mode Master

Что за карта ?
Поднять точку доступа можно другими способами.

Пытаюсь сдать тоже самое из консоли

# iwconfig wlan0

Если мне не изменяет склероз, то так можно настроить только точку доступа с WEP.

Для «настоящей» точки доступа Вам нужен hostapd. Гуевая конфигурилка тоже его использует.

Во-первых, какой драйвер/устройство используете? Т.к. в проприетарных драйверах весь стек 802.11 полностью в kernel-space, а в opensource (mac80211) нужно использовать hostapd/wpa_supplicant для работы. Да, я знаю, что есть проприетарные драйвера, которые тоже используют hostapd/wpa_supplicant, но там они скорее как заглушки.

Во-вторых, iwconfig - deprecated уже несколько лет, она существует только для совместимости с проприетарными драйверами. Для mac80211 нужно использовать iw, в частности пересоздавать интерфейс с нужным типом, т.к. в ядре разная инициализация для master/managed/adhoc/p2p и т.д.

Создание интерфейса:

iw phy0 interface add wlan1 type __ap

Сам hostapd рекомендую собрать из исходников с патчами от openwrt, чтоб не было вопросов, почему скорость низкая и не включается 40МГц ширина канала.

# cat /etc/hostapd.conf 
#
# armbian hostapd configuration example
#
# nl80211 mode
#

ssid=ARMBIAN
interface=wlan1
hw_mode=g
channel=5
bridge=br0
driver=nl80211

logger_syslog=0
logger_syslog_level=0

wmm_enabled=1
ieee80211n=1
wpa=2
preamble=1

wpa_psk=66eb31d2b48d19ba216f2e50c6831ee11be98e2fa3a8075e30b866f4a5ccda27
wpa_passphrase=12345678
wpa_key_mgmt=WPA-PSK
wpa_pairwise=TKIP
rsn_pairwise=CCMP
auth_algs=1
macaddr_acl=0

noscan=1

#ht_capab=[HT40-][SHORT-GI-40][SHORT-GI-40][DSSS_CCK-40]
#country_code=SI
#ieee80211d=1

#5 Ghz example config
#hw_mode=a
#channel=108
#ht_capab=[HT40+][SHORT-GI-40][DSSS_CCK-40]
root@cubox:~# iwconfig 
wlan1     IEEE 802.11  ESSID:off/any  
          Mode:Managed  Access Point: Not-Associated   Tx-Power=31 dBm   
          Retry short limit:7   RTS thr:off   Fragment thr:off
          Encryption key:off
          Power Management:on
          
bond0     no wireless extensions.

eth0      no wireless extensions.

lo        no wireless extensions.

dummy0    no wireless extensions.

wlan0     IEEE 802.11  Mode:Master  Tx-Power=31 dBm   
          Retry short limit:7   RTS thr:off   Fragment thr:off
          Power Management:off
          
root@cubox:~# hostapd /etc/hostapd.conf 
Configuration file: /etc/hostapd.conf
Failed to create interface mon.wlan1: -95 (Operation not supported)
wlan1: Could not connect to kernel driver
Using interface wlan1 with hwaddr 6c:ad:f8:1d:25:61 and ssid «ARMBIAN»
wlan1: interface state UNINITIALIZED->ENABLED
wlan1: AP-ENABLED 

Ок, давайте по-порядку.

Во-первых, в сообщениях, когда вставляете код, воспользуйтесь LORCODE , в частности обрамляйте тегами code.

Во-вторых, дайте выхлоп lspci, чтоб понимать о каком чипе адаптера идёт речь.

В третьих, если вам нужен только режим AP без sta, wlan0 можно удалить командой:

iw dev wlan0 del

iw phy0 interface add wlan0 type __ap

Проблема может быть ещё в том, что происходит коллизия разных типов интерфейсов на одном физическом адаптере (не все поддерживают одновременную работу sta и ap). Собственно GUI обычно такие вещи проверяет, или просто игнорирует и создаёт только один виртуальный интерфейс нужного типа.

То то и он что lspci ничего не выводит, так как коробочка на arme, а точнее cubox https://www.solid-run.com/freescale-imx6-family/cubox-i/cubox-i-specifications/. WiFi модуль broadcom вроде как BCM4329G.
iw list выдает:

....
	Supported interface modes:
		 * IBSS
		 * managed
		 * AP
		 * P2P-client
		 * P2P-GO
		 * P2P-device
....

Ух, броадком - тот ещё кал. Но судя по https://wireless.wiki.kernel.org/en/users/Drivers/brcm80211 Там требуются дополнительные прошивки для вашего устройства. Как правило, производители разделяют в этой части поддержку режимов ap/sta. Вам следует взять firmware из андроида для поддержки ap по ссылке https://android.googlesource.com/platform/hardware/broadcom/wlan/+/master/bcmdhd/firmware/bcm4329/ и положить в /lib/firmware. В зависимости от версии используемого ядра (так пишут в первой ссылке) для SDIO устройств до линукса v3.13 использовалось общее название файла (/lib/firmware/brcm/brcmfmac-sdio.bin). Если же ядро более свежее, то достаточно просто скопировать файл без переименования.

Положил файлы, но результат тот же.

root@cubox:~# uname -a
Linux cubox 4.11.3-cubox #6 SMP Sun May 28 10:23:36 CEST 2017 armv7l armv7l armv7l GNU/Linux
root@cubox:~# ls -l /lib/firmware/{fw_*,device-bcm.mk}
-rw-r--r-- 1 root root   1169 Jun 20 12:51 /lib/firmware/device-bcm.mk
-rw-r--r-- 1 root root 264140 Jun 20 12:51 /lib/firmware/fw_bcm4329_abg.bin
-rw-r--r-- 1 root root 267027 Jun 20 12:51 /lib/firmware/fw_bcm4329_apsta.bin
-rw-r--r-- 1 root root 246791 Jun 20 12:51 /lib/firmware/fw_bcm4329.bin

root@cubox:~# lsof | grep firmware
root@cubox:~#