1) No Pesquisador de Objetos, clique com o botão direito do mouse em um servidor e selecione Propriedades.

2) Clique no nó Memória.

3) Em Opções de Memória do Servidor, insira a quantidade desejada para Memória mínima do servidor e Memória máxima do servidor.
Use as configurações padrão para permitir que o SQL Server altere seus requisitos de memória de forma dinâmica com base nos recursos disponíveis do sistema. A configuração padrão da memória mínima do servidor é 0 e a configuração padrão da memória máxima do servidor é 2147483647 megabytes (MB). A quantidade mínima de memória que você pode especificar para a memória máxima do servidor é 16 MB.

https://technet.microsoft.com/pt-br/library/ms191144(v=sql.105).aspx