Сообщение: Необходимо отметить...

Проверить отмечен ли чекбокс можно с помощью jQuery. В первом случае проверяем не равна ли нулю length. Если чекбокс не отмечен, выводим сообщение в alert:

HTML:

<form>
<input type="radio" name="sex" value="male" /> Male<br />
<input type="radio" name="sex" value="female" /> Female
</form> 

<span id="check1">check</span>

<form>
<input type="checkbox" name="vehicle" value="Bike" /> I have a bike<br />
<input type="checkbox" name="vehicle" value="Car" /> I have a car
</form> 

<span id="check2">check</span>

jQuery:

$("#check1").click(function(){
    if($('input[type=radio]:checked').length == 0){
       alert("Please select one radio");
    }
})
    
$("#check2").click(function(){
    if($('input[type=checkbox]:checked').length == 0){
       alert("Please select minimum one checkbox");
    }
})

Аналогичный способ:

if( !$(':radio:checked').length){
    alert('Please select one radio');
}

Проверяем, отмечен ли чекбокс .is(":checked"):

$(function() {
           $("#check1").click(function(){
                if(!($("input[name='sex']").is(":checked"))){
                   alert("Please select one radio");
                }
             })

        $("#check2").click(function(){
             if(!($("input[name='vehicle']").is(":checked"))){
               alert("Please select minimum one checkbox");

            }
        })

        });

Или так:

var rdo = $('input[name="group"]:checked');
var boxes = $('input[type="checkbox"]:checked');

if(rdo.length == 0) 
    alert("Please select one radio");

if(boxes.length == 0)
    alert("Please select minimum one checkbox");

Здесь проверяем значение атрибута .val():

var chkvalue =   $('input[name="sex"]:checked').val();
    if(chkvalue =="")
    {
     alert("Please checked the radio button");
     return;
    }