Вопрос, я так понимаю, в алгоритме.  
Можно сгенерировать 4 случайных целых числа в заданном диапазоне.  
А пятое число вычислить как 13 минус сумма четырех случайных целых.

Теперь понятно, что устроит VBA-код, а не формула.  
Уточните ещё, в каком диапазоне должны быть целые числа, ведь без ограничений они могут оказаться и отрицательными.

Напросился такой алгоритм:  
В случайную позицию массива добавлять по единичке до набора необходимой суммы.  
Пример кода приведен ниже, его не сложно переделать в функцию или расширить для многомерного массива.  
 
Sub RndArray_WithDefinedSum()  
   
 Const MinVal& = 1  
 Const MaxVal& = 7  
 Const SumVal& = 13  
 Const DestCell = "A1"  
   
 Dim a&(1 To 5), i&, j&, LB&, UB&  
 LB = LBound(a)  
 UB = UBound(a)  
   
 ' Добавлять по единичке в случайную позицию массива, пока не достигнуто SumVal  
 Randomize  
 For i = 1 To SumVal  
   j = Int((UB - LB + 1) * Rnd + LB)  
   a(j) = a(j) + 1  
 Next  
   
 ' Записать результат  
 Range(DestCell).Resize(, UB - LB + 1).Value = a()  
   
 ' Для отладки  
 Dim sum  
 For i = LB To UB  
   Debug.Print a(i);  
   sum = sum + a(i)  
 Next  
 Debug.Print "Total:"; sum  
   
End Sub

или так:  
 
Sub t()  
Dim r&, arr(1 To 5, 1 To 1), s!, i&, dn!, dk!  
On Error GoTo er  
s = 13: dn = 0: dk = 12  
   Randomize  
   r = Fix(Rnd * 5! - 0.000001!) + 1  
   For i = 1 To 4  
       arr(i, 1) = dn + Fix(WorksheetFunction.Min((dk - dn + 1), s) * Rnd)  
       s = s - arr(i, 1)  
   Next  
   If r < 5 Then arr(5, 1) = arr(r, 1)  
   arr(r, 1) = s  
   [a1].Resize(5) = arr
   Exit Sub  
er: Resume Next  
End Sub

пожалуй..

вот за это я Вас Слэн не только уважаю,  
но и Вам завидую :)