Hola @giovanni_castillo,
Creo que para eso necesitas crear un before_save logichook. En el debes incluir tus condiciones.
Puedes hacer un query a la tabla accounts donde verifiques que el contenido del campo name no exista. En caso de coincidir, entonces no dejas guardar la nueva cuenta y redireccionas todo a cualquier link que quieras.
Documentación de Logichooks: https://docs.suitecrm.com/developer/logic-hooks/
Ejemplo de query en logichook: http://cheleguanaco.blogspot.com/2009/06/simple-sugarcrm-logic-hook-example.html
Ejemplo de como redireccionar desde LogicHook: Redirect to editview from beforesave hook logic
Espero te sirva.
Saludos,
BrozTechnologies