Personalización de la vista del gestor de activos

Puedes hacer esto con un modal personalizado sobrscribiendo el gestor de assets de imagen por defecto.

editor. Commands.add("open-assets", {
  run(editor, sender, opts) {
    const assettarget = opts.target;
    El código para abrir tu propio modal va aquí.
   openModal(assettarget)
  }
});

Cuando quieras configurar una imagen, usa esto.

const assettarget = opts.target;
assetTarget.set("src", image.url);

Sugeriría la misma solución que propuesta por @khoa-justuno Si necesitas un modal nuevo, será más fácil crear la interfaz de Asset Manager desde cero; reutilizar los elementos DOM creados por GrapesJS, en este caso, sería un engorro mantenerlo