В AjaxSearch больше возможностей, и лучше именно его использовать. И кнопку там убрать проще простого: в AjaxSearch 1.8 можно задать собственный шаблон формы ввода через параметр tplLayout, а в версии 1.7.1 можно внести изменения в файл templates.inc.php.
Про UTF-8 – имеете полное право не использовать и гордо бороться с различными проблемами. Лично я в такой борьбе смысла не вижу. В MODx тоже кодировку один раз задаешь, просто в системе имеется ряд ошибок (описанных на форуме) и перед установкой полезно их исправить.
Я бы не сказал, что багов много, но они есть. Если потратить некоторое время на начальное освоение системы и исправление кое-чего (создание собственной сборки), то потом никаких проблем не возникает. Но вначале крайне желательно «поработать напильником».