Если Вы создали форму при помощи сниппета AjaxForm в модальном окне и нужно автоматически закрыть его после успешной отправки формы используйте следующий js скрипт
$(document).on('af_complete', function(event, response) {
if (response.success) {
$('#modal-callback').modal('hide');
}
});
Где '#modal-callback' - id модального окна