Стреляем в ОПС, попадаем в планету. Хотя визуально видим ОПС с большим запасом. Пробовал наводится по формуле и вручную.

Схожая ситуация уже на другом объекте:

Всё дело в том, что расчёт попадания происходит на сервере, чтобы быть уверенным что станция попадает, а не хитрый игрок подкручивает значения. 

В результате имеется расхождения в вычислениях на границах объектов.

Вот несколько вариантов:
1. Ориентироваться по попаданию в браузере - открыть путь читерам
2. Блокировать выстрелы при пограничном попадании
3. Добавить магии и выбирать не ближайщую цель, а учитывать близости луча к центру цели. Т.е. догадываться что хочет игрок. Но магия может ошибаться
4. Оставить как есть
5. С первым выстрелом присылать цель попадания и корректировать луч. До первого выстрела будет глюк, после попадания - нормализуется.

Мне нравится решение 4.

Какое решение лучше? Может есть свои варианты? 

Вы не обижайтесь Семен, но ваш ответ выглядит так - мы хотим что бы в игре было 3D не важно даже то что оно коряво будет выглядеть. Раз уж делаете 3D то потрудитесь и картинку к нему прикрутить не корявую. Как это сделать вам как разработчикам должно быть видней, вы за это получаете деньги. Хотя конечно может кто и из пользователей может подсказать, знатоков тут много.

Введена коррекция луча. 

В ситуации как на скрине, если сервер будет попадать по планете, то длина луча уменьшится так, как будто он попадает по планете. 

Визуальный баг исправлен