Заработало, но это шаманство чес-слово

Все осталось как было выше описано, только вставил в Z:\home\modx\www\assets\plugins\tinymce212\jscripts\tiny_mce\plugins\advlink\link.htm
строчку
<meta http-equiv="Content-Type" content="text/html; charset=utf-8" />
А теперь внимание фокус:
В разрез с вашим советом вставил в tinymce.linklist.php вот что:
MYSQL_QUERY('SET NAMES cp1251');
MYSQL_QUERY('SET CHARACTER SET cp1251');
MYSQL_QUERY("SET SESSION collation_connection = 'cp1251_general_ci'");
Вы будете смеяться, но база в utf8 это видно из phpmyadmin, но теперь работает и нет крякозяблов