UB или нет?

то предупреждения компилятора при присваивании b не будет.

Так предупреждение же на присваивание a выдаётся.

a - это очевидный способ с предупреждением, а b - из opengroup.org и без предупреждения.
Меня интересует, является ли UB способ с b.

UB или нет?

Нет. В C это ill formed, в posix - defined.

На всякий случай, оставлю ещё цитату из POSIX описания dlsym:

Note that conversion from a void * pointer to a function pointer as in:

fptr = (int (*)(int))dlsym(handle, "my_function");

is not defined by the ISO C standard. This standard requires this conversion to work correctly on conforming implementations.

UPD: пример на https://pubs.opengroup.org/onlinepubs/009695399/functions/dlsym.html, а не https://pubs.opengroup.org/onlinepubs/9699919799/functions/dlsym.html

dlfunc() из FreeBSD не приводит к предупреждению:

#define _GNU_SOURCE
#include <dlfcn.h>
#include <stdio.h>

/* FreeBSD dlfcn.h */
struct __dlfunc_arg {
        int __dlfunc_dummy;
};
typedef void (*dlfunc_t)(struct __dlfunc_arg);
dlfunc_t dlfunc(void *restrict handle, void *restrict symbol);

/* FreeBSD dlfunc.c */
dlfunc_t dlfunc(void *restrict handle, void *restrict symbol) {
        union {
                void *d;
                dlfunc_t f;
        } rv;
        rv.d = dlsym(handle, symbol);
        return rv.f;
}

int main(void)
{
        static void (*a)(void);
        static void (*b)(void);

        a = (void (*)(void))dlfunc(RTLD_NEXT, "open");
        *(void **)(&b) = dlsym(RTLD_NEXT, "open");

        if (a == b)
                printf("a == b""\n");

        return 0;
}

В сишном стандарте указатели на данные и указатели на код могут быть разного размера. В но в каком-то из POSIX — нет.